Выдвигаются различные версии того, что могло стать причиной внезапного увольнения генерального директора компании OpenAI Сэма Альтмана. Агентство Reuters предположило, что оно произошло из-за разработки, которую исследователи посчитали опасной для человечества.
Незадолго до того, как Альтман был уволен, несколько научных сотрудников компании направили в совет директоров письмо, в котором предупредили о существенном прорыве в разработке искусственного интеллекта.
Речь в документе шла о проекте Q* (Q Star, «Ку-стар»). Проект Q*, уверены некоторые сотрудники OpenAI, может стать прорывом в разработке сильного искусственного интеллекта (AGI), способного выполнять задачи, не уступая человеку.
В OpenAI над проектом прототипа AGI под названием Q* работают несколько команд. Разработчики уже обучили эту нейросеть решать простые математические задачи. Работоспособность первой рабочей версии Q* была продемонстрирована внутри компании. Нейросеть смогла решить тесты по математике уровня начальной школы США.
Эксперты считают, что Q* — это сочетание системы обучения с подкреплением Q-learning и системы поиска графов A*. По их мнению, это только начало развития Q*, а в OpenAI добавят в этот проект игровые возможности AlphaGo и Deep Blue для расширения математических способностей нейросети.
Альтман превратил платформу ChatGPT в один из наиболее востребованных программных продуктов и привлёк финансовые и вычислительные ресурсы, необходимые для работы по созданию AGI. На прошлой неделе в ходе своего выступления на саммите АТЭС он заявил мировым лидерам, что серьёзный прорыв уже не за горами. «Четыре раза за всю историю OpenAI, последний из которых был не более двух недель назад, мне довелось присутствовать в комнате, где мы как будто раздвигаем завесу невежества и отодвигаем границу открытий вперёд, и сделать это — профессиональная честь всей жизни», — заявил Альтман. На следующий день совет директоров его уволил.
Источники:
3DNews, 23.11.2023, OpenAI совершила прорыв в создании сильного ИИ незадолго до увольнения Сэма Альтмана
Хабр, 23.11.2023, OpenAI работает над проектом прототипа AGI под названием Q* (Q Star) и обучила нейросеть решать начальную математику
Reuters, November 23, 2023, OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say