«Декларация Блетчли»: подписана почти всемирная декларация о «катастрофических» рисках ИИ

Документ, клеймящий опасности искусственного интеллекта, согласовали Китай, США, Евросоюз и десятки других крупных экономик. Откуда такой консенсус?

Фото: Elnur/Фотобанк Лори

Документ о безопасности искусственного интеллекта, подписанный на саммите в Британии делегациями сразу трех сверхдержав и массы региональных игроков, получил название «декларация Блетчли» — по месту проведения мероприятия, особняку Блетчли-парк, где 70 лет назад Алан Тьюринг взламывал шифр «Энигмы».

Текст пестрит громкими заявлениями: ИИ открывает «невероятные возможности» по укреплению мира и благополучия, но сопутствующие его развитию риски, в особенности в сферах кибербезопасности и биотехнологий, должны быть немедленно учтены, а продвинутый интеллект «представляет особую угрозу» для человечества и «обладает потенциалом нанесения катастрофического ущерба, будь то намеренно или случайно». Участники обязуются выявлять соответствующие риски и сотрудничать в их нейтрализации в рамках «многосторонней, несколькосторонней и двусторонней кооперации». Благие намерения оценивает гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт» Роман Душкин:

Роман Душкин
гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт»
«Каждый раз, когда я читаю подобные декларации, у меня возникает стойкое ощущение, что именно эти декларации генерировал ChatGPT. Вот он потоком начинает выдавать тезисы и принципы, но очень поверхностные и пустые, как и вот эти декларации. Ну, да, есть определенные риски, и эти риски надо выявлять, классифицировать, прорабатывать. Но самому по себе ИИ уже 70 лет с лишним, лично я не считаю эту технологию такой, которая несет в себе экзистенциальную угрозу. Пока он не станет воплощенным в виде роботов-андроидов, которые будут автономно действовать в нашей реальности, такого не будет, что система сама себя осознает и поймет, что человечество представляет угрозу, начнет воевать с ним. То, что политики бьют какую-то там тревогу, ну, у них работа такая. Правильно делают, что бьют и какие-то рамки применения пытаются ввести. Самое главное, чтобы не вводили рамки в исследования, потому что это будет больше похоже на неолуддизм (критика влияния научно-технического прогресса на человека и общество).

Привлекает внимание, что в документе о необходимости контроля за ИИ отсутствуют даже намеки на правила такого регулирования. Стороны подписались под довольно обтекаемыми словами, сделали несколько красивых заявлений — например, миллиардер Илон Маск на полях саммита предупредил о появлении сущностей, которые будут «куда умнее умнейших из людей» и которых «неясно, как контролировать», — и договорились встретиться через полгода. О значении мероприятия рассуждает председатель совета Фонда развития цифровой экономики Герман Клименко:

Герман Клименко
председатель совета Фонда развития цифровой экономики
«Я думаю, что сейчас это очень напоминает ядерную гонку вооружений. С одной стороны, государства говорят о том, что ядерное оружие — это плохо. Тем не менее каждый заботится о том, чтобы у него оно появилось. Как представитель индустрии я все-таки смотрю на информационный фон как на существенно раздутый. Гонка за бюджетами, гонка за выбивание из бедных чиновников решения о выделении каких-то затрат на какое-то развитие. Но это не значит, что самого факта нет. Можно использовать не только ИИ, можно использовать и кухонные ножи. Поэтому мне кажется, что все не так страшно. Вообще, вся история с ИИ напоминает историю с блокчейном, биткоином, криптовалютами. Если по аналогии вспомнить: «Весь мир — блокчейн, нотариусов не будет, денег не будет, доллар падет вместе с рублем». Обратите внимание, за этой историей мы уже наблюдаем лет десять, и ничего катастрофичного не произошло».

Тем не менее само количество желающих хотя бы подписаться за весь хороший искусственный интеллект и против всего плохого не может не впечатлять. Подписанты — от США, Китая и Евросоюза до Японии, Индии, Турции, Бразилии и Арабских Эмиратов — представляют 60% мирового населения и почти 90% мирового ВВП.

Следующий саммит по безопасности ИИ — наверное, без «Трех законов робототехники» Азимова, но, быть может, хоть с каким-то реальным регулированием — пройдет весной будущего года в Южной Корее, затем еще через полгода во Франции. Если, конечно, к тому времени странами еще не будут управлять наши новые электрические оверлорды.

Межтекстовые Отзывы
Посмотреть все комментарии
guest

Геоскан представил всероссийский проект для школьников по космическому направлению

Геоскан представил всероссийский проект для школьников по космическому направлению © www.geoscan.ru ГК «Геоскан» и АНО «Развитие космического образования» начали реализацию масштабного...

Бизнес против упрощения доступа силовиков к звонкам и переписке россиян

Ассоциация больших данных, объединяющая операторов связи, крупнейшие интернет- и технологические компании страны, раскритиковала соответствующий законопроект МВД Фото: Дмитрий...

Новая преступная группа хакеров подвергает атакам российские компании

Их обнаружили эксперты F.A.C.C.T. В списке их жертв 15 организаций. Злоумышленники требуют за расшифровку и непубликацию украденных данных...

«Росатом» представил обновленную версию инженерного программного пакета «Логос»

"Росатом" представил обновленную версию инженерного программного пакета "Логос" © sudostroenie.info 14 июня госкорпорация «Росатом» представила обновленную версию флагманской системы математического...

Маск: в Вашингтоне достигли «мощного консенсуса» по регулированию ИИ

Лидеры ведущих технологических компаний и более 60 сенаторов рассматривали возможность введения закона, который бы ограничил технологии искусственного интеллекта....

Компания Маска Neuralink перейдет к тестированию своих чипов на людях

В теории с помощью этих устройств парализованные люди смогут управлять внешними устройствами с помощью силы мысли. Ранее испытания...

Минздрав России разработал проект создания базы данных граждан по группам заболеваний

Это будет федеральный регистр, содержащий в себе медицинскую информацию о заболеваниях граждан, статистические данные, которыми можно оперировать, чтобы...

Цифровая копия Владимира Путина задала ему вопрос о двойниках и опасности ИИ

Студент СПбГУ во время большой пресс-конференции главы государства обратился к нему в образе дипфейка. Как отреагировал на это...

Сбербанк перевел 40 тысяч серверов на отечественную ОС

43 тысячи серверов Сбербанка полностью перешли на собственную серверную операционную систему Platform V SberLinux, сообщила компания в своем годом отчёте. Отечественное...

Кто заплатит за бесплатную раздачу интернета?

МТС не поддерживает идею отменить плату за раздачу мобильного интернета со смартфонов. Это приведет к тому, что операторы...

В Нью-Йорке могут запретить дипфейки сексуального характера

Законопроект об уголовной ответственности за распространение отредактированных изображений такого типа внесен в конгресс штата Фото: Elnur/Фотобанк Лори Дипфейк...

В Оренбурге начал работу новый центр управления процессами добычи «Газпром нефти»

«Газпром нефть» запустила Центр управления производством, который круглосуточно сопровождает процессы бурения и добычи в Оренбургской области.  © www.gazprom-neft.ru Он стал частью системы...

Lego отказалась от производства кубиков из переработанного пластика

В компании пришли к выводу, что для этого пришлось бы почти полностью перестраивать все производство, а это оставило...

Росэнергоатом ввел в промышленную эксплуатацию информационную систему поддержки эксплуатации АЭС

Концерн «Росэнергоатом» (входит в крупнейший дивизион Госкорпорации «Росатом» —”Электроэнергетический") ввел в промышленную эксплуатацию Информационную систему поддержки эксплуатации АЭС на пяти станциях —...

Новая насосная станция интегрирована в систему диспетчеризации Саранских теплосетей

Компанией «КРУГ» автоматизирована вновь построенная насосная станция ТМ-3 и интегрирована в существующую автоматизированную систему диспетчерского управления (АСДУ) Саранских тепловых сетей....

Саровский ядерный центр представил «Логос ЭМИ»

«Логос ЭМИ» — новый модуль пакета программ инженерного анализа и суперкомпьютерного моделирования.  © strana-rosatom.ru Модуль предназначен для численного моделирования электромагнитных процессов....

«Декларация Блетчли»: подписана почти всемирная декларация о «катастрофических» рисках ИИ

Документ, клеймящий опасности искусственного интеллекта, согласовали Китай, США, Евросоюз и десятки других крупных экономик. Откуда такой консенсус? Фото:...

При землетрясении в Марокко в небе заметили странное свечение

Впервые о подобных загадочных огнях упоминали еще в Древней Греции, однако подробно феноменом начали заниматься с XX века,...

Экономист из Гарвардского университета получила Нобелевку за исследование о женщинах на рынке труда

Клаудия Голдин описала, как в Америке за 200 лет изменились гендерные различия в доходах и уровне занятости. Исследование...

НПП «Исток» им. Шокина: ИТ-решение для управления вооружениями и военными объектами

Холдинг «Росэлектроника» Госкорпорации Ростех разработал ИТ-решение на основе промышленного интернета вещей, которое позволяет контролировать состояние вооружения, специальной техники, военных...