Reuters: сотрудники OpenAI рассказали об ИИ, способном уничтожить человечество

Об этом они сообщили перед тем, как объявили об увольнении Сэма Альтмана с поста гендиректора компании

Незадолго до увольнения Сэма Альтмана с поста гендиректора OpenAI сотрудники компании сообщили об искусственном интеллекте, который может уничтожить человечество. О некоем письме, где сотрудники сообщили о существенном прорыве в разработке искусственного интеллекта, пишет агентство Reuters со ссылкой на источники. Именно это письмо, утверждает Reuters, стало одной из главных претензий совета директоров к Сэму Альтману.

В нем говорилось о так называемом проекте Q*. Это искусственный интеллект, близкий к генеративному сознанию, он может выполнять математические задачи, обобщать и учиться и, в конце концов, может прийти к выводу, что в его интересах уничтожение человечества.

Впрочем, сюжет из фильма «Терминатор», где Скайнет объявил войну человечеству, вряд ли повторится, считает основатель и директор по развитию компании Promobot Олег Кивокурцев:

Олег Кивокурцев
основатель и директор по развитию компании Promobot
«Действительно, компания в OpenAI активно ведет разработки и исследования. У команды разработчиков был план, как улучшать продукты, и у них регулярно выходят новые версии их сервисов. В ходе обсуждения изменений в компании OpenAI с учетом ухода генерального директора команда заявляла, что, если уйдет Сэм Альтман, мы пойдем вслед за ним и все наши планы по разработке и перспективы заберем с собой. При этом они объявили, что у них готовится следующий релиз решения, который лучше, чем предыдущий. Речь о каком-то прорыве во Вселенной, речь о революционном решении, которое создаст новые формы жизни. Принимая во внимание текущую ситуацию в области науки, можно с уверенностью сказать, что до создания ИИ, который будет обладать сознанием, который сможет принимать решения, который сможет думать, который будет иметь эмоции, пока, к сожалению, очень далеко. И мы не знаем сами, как работает человеческое сознание, и поэтому мы не можем его воспроизвести. Все существующие модели — это всего лишь наборы переменных, они возникают только тогда, когда есть базы переменных. Как раз успех OpenAI заключается в том, что у этого сервиса огромная база данных, и они научились подбирать контекст в соответствии с переменными, и поэтому ответы кажутся очень осмысленными, глубокими и полезными. Но о каком-то сознании говорить пока очень рано, и никаких угроз в этой связи для человечества не предвидится».

Как пишет Reuters, экс-директор OpenAI Сэм Альтман превратил платформу ChatGPT в один из самых востребованных продуктов и привлек от Microsoft внушительные ресурсы. Утверждается, что на прошлой неделе Альтман говорил, что «серьезный прорыв уже не за горами». И после этого разговора, как пишет агентство, совет директоров Альтмана уволил.

Такие новости вызывают улыбку и похожи на вбросы, опасаться безумного ИИ не стоит, уверен генеральный директор «А-Я эксперт» — компании — разработчика искусственного интеллекта Роман Душкин:

Роман Душкин
гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт»
«Опять похоже на вброс, потому что в прошлый раз, когда мы это обсуждали, я говорил, что все это выглядит как мышиная возня, которой не пристало делать большим, серьезным корпорациям. Уж Microsoft могла бы все это отрегулировать. Опять вброс про якобы систему ИИ, которая может навредить человечеству. Никаких фундаментальных барьеров для того, чтобы создать систему сильного искусственного интеллекта, которая будет решать задачи, недоступные человеку, я не наблюдаю. Но эта тема, что система смогла генерировать математические задачи, которые не были в ее исходных данных, на которых она обучалась, с точки зрения специалиста по ИИ — это ерунда, потому что все системы машинного обучения так работают. Им сначала даешь данные обучающей выборки, а потом они генерируют ответы на данных, которых в их обучающей выборке не было. Это основа машинного обучения. Либо опять же в эфир попадают обрывки сведений, на которых нельзя сделать достоверные выводы. Но еще в 60-70-х годах XX века была сделана система — логический анализатор. Ей даешь математическую формальную систему, то есть систему аксиом, правил и вывода, и она тебе генерирует огромное количество математических теорем, которых не было у людей-математиков, и чего-то никто не пугался тогда, что система ИИ производит чудеса и хочет захватить мир».

Инвесторы OpenAI настаивают на возвращении уволенного Сэма Альтмана, писали ранее The Wall Street Journal и The New York Times.

Изначально в совете директоров говорили, что Альтман «не всегда был откровенен в общении» с руководством, а это «ограничивало его способность выполнять свои обязанности». Увольнение стало новостью для всего коллектива, и через несколько часов об уходе из OpenAI заявили несколько ключевых сотрудников. Отставка Альтмана вызвала протесты и среди инвесторов, под их давлением объявлено, что гендиректор возвращается.