PANews сообщил 23 ноября, что, по данным Reuters, люди, знакомые с этим вопросом, заявили, что за четыре дня до того, как генеральный директор OpenAI Сэм Альтман был ранее уволен, несколько исследователей направили письмо совету директоров, предупредив, что мощное открытие искусственного интеллекта может угрожать человечеству. Ранее не публиковавшееся письмо и алгоритм искусственного интеллекта стали ключевым событием в отстранении Сэма Альтмана советом директоров, поскольку совет директоров уволил Альтмана на следующий день после отправки письма, и это письмо было одной из многих жалоб совета директоров, которые привели к увольнению Сэма Альтмана.
Мира Мурати, давний руководитель компании, упомянула о проекте, названном Q*, сотрудникам в среду и сказала, что письмо было отправлено совету директоров в преддверии мероприятия в эти выходные. OpenAI добилась прогресса в разработке Q* (произносится как Q-star), который, по мнению некоторых инсайдеров, может стать прорывом для OpenAI в области сверхинтеллекта, также известного как общий искусственный интеллект (AGI). OpenAI определяет AGI как систему искусственного интеллекта, которая умнее человека. Учитывая огромные вычислительные ресурсы, новая модель способна решать определенные математические задачи. Несмотря на то, что оценка Q* по математике находится только на уровне учеников начальной школы, отличный результат по такому тесту заставляет исследователей с оптимизмом смотреть на его будущий успех. В своем письме к совету исследователи указали на возможности и потенциальные опасности ИИ, но не уточнили конкретные проблемы безопасности, упомянутые в письме. Через день совет директоров уволил Альтмана.
Исследователи рассматривают математику как передовой рубеж развития генеративного ИИ. В настоящее время генеративный ИИ превосходно справляется с письмом и переводом на другой язык, статистически предсказывая следующее слово, и ответы на один и тот же вопрос могут сильно различаться. Но обладание математическими способностями означает, что ИИ будет обладать более сильными способностями к рассуждению, подобными человеческому интеллекту. В отличие от калькуляторов, которые могут решать только конечное число операций, AGI можно обобщить, изучить и понять. На этом фоне Альтман стремится сделать ChatGPT одним из самых быстрорастущих программных приложений в истории и привлек необходимые инвестиции и вычислительные ресурсы от Microsoft, чтобы приблизиться к сверхинтеллекту (AGI).
Ранее вчера сообщалось, что OpenAI объявила о том, что Сэм Альтман вернется в OpenAI в качестве генерального директора.