«Декларация Блетчли»: подписана почти всемирная декларация о «катастрофических» рисках ИИ

Документ, клеймящий опасности искусственного интеллекта, согласовали Китай, США, Евросоюз и десятки других крупных экономик. Откуда такой консенсус?

Фото: Elnur/Фотобанк Лори

Документ о безопасности искусственного интеллекта, подписанный на саммите в Британии делегациями сразу трех сверхдержав и массы региональных игроков, получил название «декларация Блетчли» — по месту проведения мероприятия, особняку Блетчли-парк, где 70 лет назад Алан Тьюринг взламывал шифр «Энигмы».

Текст пестрит громкими заявлениями: ИИ открывает «невероятные возможности» по укреплению мира и благополучия, но сопутствующие его развитию риски, в особенности в сферах кибербезопасности и биотехнологий, должны быть немедленно учтены, а продвинутый интеллект «представляет особую угрозу» для человечества и «обладает потенциалом нанесения катастрофического ущерба, будь то намеренно или случайно». Участники обязуются выявлять соответствующие риски и сотрудничать в их нейтрализации в рамках «многосторонней, несколькосторонней и двусторонней кооперации». Благие намерения оценивает гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт» Роман Душкин:

Роман Душкин
гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт»
«Каждый раз, когда я читаю подобные декларации, у меня возникает стойкое ощущение, что именно эти декларации генерировал ChatGPT. Вот он потоком начинает выдавать тезисы и принципы, но очень поверхностные и пустые, как и вот эти декларации. Ну, да, есть определенные риски, и эти риски надо выявлять, классифицировать, прорабатывать. Но самому по себе ИИ уже 70 лет с лишним, лично я не считаю эту технологию такой, которая несет в себе экзистенциальную угрозу. Пока он не станет воплощенным в виде роботов-андроидов, которые будут автономно действовать в нашей реальности, такого не будет, что система сама себя осознает и поймет, что человечество представляет угрозу, начнет воевать с ним. То, что политики бьют какую-то там тревогу, ну, у них работа такая. Правильно делают, что бьют и какие-то рамки применения пытаются ввести. Самое главное, чтобы не вводили рамки в исследования, потому что это будет больше похоже на неолуддизм (критика влияния научно-технического прогресса на человека и общество).

Привлекает внимание, что в документе о необходимости контроля за ИИ отсутствуют даже намеки на правила такого регулирования. Стороны подписались под довольно обтекаемыми словами, сделали несколько красивых заявлений — например, миллиардер Илон Маск на полях саммита предупредил о появлении сущностей, которые будут «куда умнее умнейших из людей» и которых «неясно, как контролировать», — и договорились встретиться через полгода. О значении мероприятия рассуждает председатель совета Фонда развития цифровой экономики Герман Клименко:

Герман Клименко
председатель совета Фонда развития цифровой экономики
«Я думаю, что сейчас это очень напоминает ядерную гонку вооружений. С одной стороны, государства говорят о том, что ядерное оружие — это плохо. Тем не менее каждый заботится о том, чтобы у него оно появилось. Как представитель индустрии я все-таки смотрю на информационный фон как на существенно раздутый. Гонка за бюджетами, гонка за выбивание из бедных чиновников решения о выделении каких-то затрат на какое-то развитие. Но это не значит, что самого факта нет. Можно использовать не только ИИ, можно использовать и кухонные ножи. Поэтому мне кажется, что все не так страшно. Вообще, вся история с ИИ напоминает историю с блокчейном, биткоином, криптовалютами. Если по аналогии вспомнить: «Весь мир — блокчейн, нотариусов не будет, денег не будет, доллар падет вместе с рублем». Обратите внимание, за этой историей мы уже наблюдаем лет десять, и ничего катастрофичного не произошло».

Тем не менее само количество желающих хотя бы подписаться за весь хороший искусственный интеллект и против всего плохого не может не впечатлять. Подписанты — от США, Китая и Евросоюза до Японии, Индии, Турции, Бразилии и Арабских Эмиратов — представляют 60% мирового населения и почти 90% мирового ВВП.

Следующий саммит по безопасности ИИ — наверное, без «Трех законов робототехники» Азимова, но, быть может, хоть с каким-то реальным регулированием — пройдет весной будущего года в Южной Корее, затем еще через полгода во Франции. Если, конечно, к тому времени странами еще не будут управлять наши новые электрические оверлорды.

Межтекстовые Отзывы
Посмотреть все комментарии
guest

Корабль Crew Dragon с коммерческими туристами вернулся на Землю

В составе экипажа был первый астронавт в истории Турции Корабль Crew Dragon с коммерческими туристами приводнился в Атлантике,...

Новый цифровой продукт «КАМАЗА»

«КАМАЗ» запустил новый сервис для корпоративных автопарков Топливо+, который позволяет предприятиям оперативно решить вопрос организации заправок автомобилей на АЗС...

Google представила свой ответ ChatGPT

Как утверждают в компании, модель Gemini чуть ли не во всем превосходит любую из других нейросетей. Что известно...

«Симпсоны» похоронили NFT

Сериал, который постфактум не раз объявляли пророческим, объявил о конце «NFT-безумия». C начала прошлого года объем сделок с...

Действительно ли iPhone 15 — это самый хрупкий айфон?

Видеоролик, в котором новый девайс от Apple ломается от того, что его просто гнут пальцами, набрал в YouTube...

Норникель роботизировал внутренние процессы

Норникель роботизировал внутренние процессы на базе российской платформы PIX PRA. И это крупнейший проект компании в области политики технологической независимости Центр...

Компания «Туполев» запатентовала гиперзвуковой самолет с комбинированным двигателем

Среди преимуществ такого лайнера — экологичность, меньший вес и увеличение дальности полета, отмечают авиаэксперты Фото: Эрик Романенко/ТАСС В...

ММК запустил в промышленную эксплуатацию систему цифрового двойника в доменном цехе

Инновационное решение Магнитогорский металлургический комбинат разработал и внедрил для снижения расхода топливо-энергетических ресурсов, в частности — кокса, необходимого для производства чугуна....

Начались продажи первых СИМ-карт c отечественной операционной системой.

СИМ карта © avatars.mds.yandex.net Нижегородская компания «Новакард» сообщила о начале продаж сим-карт, оснащенных отечественной операционной системой. Об этом сообщили в пресс-службе организации, подчеркнув,...

Госкомиссия по радиочастотам может разрешить использовать антидрон-решения

Пользоваться этим, помимо госкомпаний, смогут и частные структуры, и даже сами граждане. Какие есть риски? Фото: Максим Киселев/ТАСС...

РАН внедряет в России новую культуру для производства целлюлозы

Сейчас в России создается сеть предприятий по производству и переработке мискантуса под руководством ученых Института цитологии и генетики....

Ученые в США провели третий успешный эксперимент с ядерным синтезом

Прототип реактора выделил в полтора раза больше энергии, чем было потрачено. Однако сроки коммерческого применения технологии пока не...

Новое программное обеспечение позволит повысить эффективность ветрогенерации в Росатоме

Федеральная служба по интеллектуальной собственности зарегистрировала программное обеспечение (ПО) «Автоматизированный комплекс поддержки принятия решений работы ВИЭ на ОРЭМ (АК ВИЭ ОРЭМ)»....

Российский аналог поездов «Ласточка» почти вышел на стадию производства

Модель ЭС104 прошла проверку межведомственной комиссии. Это та же «Ласточка», только усовершенствованная и почти полностью созданная из российских...

РФЯЦ-ВНИИЭФ: «Логос ЭМИ» выходит на рынок

Госкорпорация «Росатом» анонсировала выход нового цифрового программного модуля «Логос Электромагнитное излучение» («Логос ЭМИ»), разработанного РФЯЦ-ВНИИЭФ.  © www.vniief.ru Это стало...

Искусственный интеллект поможет правительству РФ нанимать новые кадры

Эксперимент стартует 1 сентября. На первом этапе нейросеть будет подбирать соискателей для Минтруда, Минфина, Минцифры, Минэка и подведомственных...

Отечественный самолет SJ-100 совершил первый полет

На воздушном судне импортозаместили около 40 систем и агрегатов. Полет продолжался 54 минуты. По мнению авиаэкспертов, двигатель самолета...

В России нашли способ повысить эффективность работы нейросетей на 40%

 © smartengines.ru Ученые российской ИИ-компании Smart Engines нашли способ повысить эффективность работы нейросетей. В основе метода лежит принципиально новая схема...

В Бразилии приняли законопроект, полностью написанный ChatGPT

Законопроект включал предложение, чтобы город не взимал с налогоплательщиков плату за замену счетчиков расхода воды в случае их...

Amazon Web Services больше не отобразится в поиске

Аналогичные меры Роскомнадзор принял и в отношении других десяти компаний: Hetzner Online GmbH; Network Solutions, LLC; WPEngine, Inc.;...