«Декларация Блетчли»: подписана почти всемирная декларация о «катастрофических» рисках ИИ

Документ, клеймящий опасности искусственного интеллекта, согласовали Китай, США, Евросоюз и десятки других крупных экономик. Откуда такой консенсус?

Фото: Elnur/Фотобанк Лори

Документ о безопасности искусственного интеллекта, подписанный на саммите в Британии делегациями сразу трех сверхдержав и массы региональных игроков, получил название «декларация Блетчли» — по месту проведения мероприятия, особняку Блетчли-парк, где 70 лет назад Алан Тьюринг взламывал шифр «Энигмы».

Текст пестрит громкими заявлениями: ИИ открывает «невероятные возможности» по укреплению мира и благополучия, но сопутствующие его развитию риски, в особенности в сферах кибербезопасности и биотехнологий, должны быть немедленно учтены, а продвинутый интеллект «представляет особую угрозу» для человечества и «обладает потенциалом нанесения катастрофического ущерба, будь то намеренно или случайно». Участники обязуются выявлять соответствующие риски и сотрудничать в их нейтрализации в рамках «многосторонней, несколькосторонней и двусторонней кооперации». Благие намерения оценивает гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт» Роман Душкин:

Роман Душкин
гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт»
«Каждый раз, когда я читаю подобные декларации, у меня возникает стойкое ощущение, что именно эти декларации генерировал ChatGPT. Вот он потоком начинает выдавать тезисы и принципы, но очень поверхностные и пустые, как и вот эти декларации. Ну, да, есть определенные риски, и эти риски надо выявлять, классифицировать, прорабатывать. Но самому по себе ИИ уже 70 лет с лишним, лично я не считаю эту технологию такой, которая несет в себе экзистенциальную угрозу. Пока он не станет воплощенным в виде роботов-андроидов, которые будут автономно действовать в нашей реальности, такого не будет, что система сама себя осознает и поймет, что человечество представляет угрозу, начнет воевать с ним. То, что политики бьют какую-то там тревогу, ну, у них работа такая. Правильно делают, что бьют и какие-то рамки применения пытаются ввести. Самое главное, чтобы не вводили рамки в исследования, потому что это будет больше похоже на неолуддизм (критика влияния научно-технического прогресса на человека и общество).

Привлекает внимание, что в документе о необходимости контроля за ИИ отсутствуют даже намеки на правила такого регулирования. Стороны подписались под довольно обтекаемыми словами, сделали несколько красивых заявлений — например, миллиардер Илон Маск на полях саммита предупредил о появлении сущностей, которые будут «куда умнее умнейших из людей» и которых «неясно, как контролировать», — и договорились встретиться через полгода. О значении мероприятия рассуждает председатель совета Фонда развития цифровой экономики Герман Клименко:

Герман Клименко
председатель совета Фонда развития цифровой экономики
«Я думаю, что сейчас это очень напоминает ядерную гонку вооружений. С одной стороны, государства говорят о том, что ядерное оружие — это плохо. Тем не менее каждый заботится о том, чтобы у него оно появилось. Как представитель индустрии я все-таки смотрю на информационный фон как на существенно раздутый. Гонка за бюджетами, гонка за выбивание из бедных чиновников решения о выделении каких-то затрат на какое-то развитие. Но это не значит, что самого факта нет. Можно использовать не только ИИ, можно использовать и кухонные ножи. Поэтому мне кажется, что все не так страшно. Вообще, вся история с ИИ напоминает историю с блокчейном, биткоином, криптовалютами. Если по аналогии вспомнить: «Весь мир — блокчейн, нотариусов не будет, денег не будет, доллар падет вместе с рублем». Обратите внимание, за этой историей мы уже наблюдаем лет десять, и ничего катастрофичного не произошло».

Тем не менее само количество желающих хотя бы подписаться за весь хороший искусственный интеллект и против всего плохого не может не впечатлять. Подписанты — от США, Китая и Евросоюза до Японии, Индии, Турции, Бразилии и Арабских Эмиратов — представляют 60% мирового населения и почти 90% мирового ВВП.

Следующий саммит по безопасности ИИ — наверное, без «Трех законов робототехники» Азимова, но, быть может, хоть с каким-то реальным регулированием — пройдет весной будущего года в Южной Корее, затем еще через полгода во Франции. Если, конечно, к тому времени странами еще не будут управлять наши новые электрические оверлорды.

Межтекстовые Отзывы
Посмотреть все комментарии
guest

ОАК реализовала первый этап по проекту внедрения информационной среды

Завершился первый этап проекта «Внедрение единой информационной среды ПАО „ОАК“ для управления процессами разработки изделий АТ на основе подходов и методов...

Росэнергоатом внедрил информационную систему управления бюджетированием на базе российского ПО

Концерн «Росэнергоатом» (входит в Электроэнергетический дивизион Госкорпорации «Росатом») завершил внедрение импортонезависимой информационной системы управления бюджетированием.  © rosenergoatom.ru Проект стал частью...

В новом iPhone усилят защиту из-за волны краж

Пользователи смогут подключить новую опцию в разделе настроек «Face ID и пароль». При обнаружении отклонений от типичных маршрутов...

NASA показало грунт с астероида Бенну. В нем оказалось очень много углерода

По мнению директора NASA, доставленный на Землю грунт поможет установить происхождение элементов, которые могли привести к зарождению жизни...

Завершено внедрение полномасштабной системы автоматизации солезавода «ВАРНИЦА»

Завершен заключительный этап внедрения АСУ ТП солезавода «ВАРНИЦА» (Калининградская обл.) в рамках масштабного проекта по производству высококачественной соли из солевого раствора. Произведено...

Новый цифровой продукт «КАМАЗА»

«КАМАЗ» запустил новый сервис для корпоративных автопарков Топливо+, который позволяет предприятиям оперативно решить вопрос организации заправок автомобилей на АЗС...

В Иннополисе открыт крупнейший в ПФО Центр обработки и хранения данных

 © strana-rosatom.ru 3 июня в татарском Иннополисе запустили первую очередь центра обработки данных (ЦОД") «Иннополис», рассчитанный на 1 тысячу серверных стоек...

Автоматизация промышленности. Как искусственный интеллект помогает предприятиям в Москве

Искусственный интеллект (ИИ) помогает существенно упростить рабочие процессы и сократить затраты на производстве. Например, столичная компания, выпускающая кабельную продукцию, внедрила...

Как легально увеличить лайки в Ютубе?

Лайки в Youtube и легальные способы их увеличить. Чего не стоит делать при накрутке реакций, и как сделать...

Цифровая копия Владимира Путина задала ему вопрос о двойниках и опасности ИИ

Студент СПбГУ во время большой пресс-конференции главы государства обратился к нему в образе дипфейка. Как отреагировал на это...

Росэнергоатом импортозаместил программное обеспечение 95% всех рабочих мест

 © atommedia.online Подведя итоги работы по направлению информационных технологий (ИТ) за 2023 год, концерн «Росэнергоатом» (входит в электроэнергетический дивизион Госкорпорации «Росатом») отчитался...

Копай глубже: Роскомнадзор хочет укрепить магистральные сети

Эксперты говорят, что операторов могут обязать прокладывать коммуникации на большей глубине и принять ряд других мер. Глава Роскомнадзора...

Анна Мещерякова, «Третье мнение»: «Сегодня искусственный интеллект в медицине является своего рода магнитом»

С 2019 года «Третье мнение» живет, развивается и сделало большой шаг вперед, в основном благодаря пандемии. Как компании,...

Регионам открыли бесплатный доступ к медицинским ИИ-сервисам Москвы

Искусственный интеллект проанализирует любое исследование всего за 15 минут и графически промаркирует выявленные патологии. Точность ИИ на данный момент — 95%. Теперь врачи...

С 1 декабря этого года с помощью биометрии можно будет совершать покупки и получать ряд госуслуг

В Москве оплата проезда в метро системой Face Pay действует с 2021 года, биометрические сервисы развивают у себя...

Крупнейший в Сибири коммерческий центр обработки данных открыли в Новосибирской области

 © mashnews.ru Новый дата-центр группы компаний Key Point стал самым большим коммерческим ЦОДом в Сибирском регионе и одним из самых крупных дата-центров...

Amazon Web Services больше не отобразится в поиске

Аналогичные меры Роскомнадзор принял и в отношении других десяти компаний: Hetzner Online GmbH; Network Solutions, LLC; WPEngine, Inc.;...

«Сбер» будет осваивать микроэлектронику

Банк консультируется с предприятиями по выпуску полупроводников и со специалистами из корпорации Intel. По словам источников СМИ, речь...

Основатель ИВК Григорий Сизоненко: чтобы стать технологически независимой, России нужна связка типа Intel и Windows

На информационном рынке есть четыре инфраструктуры разработки, которые на базе свободного программного обеспечения производят операционные системы. Три из...

Ростех импортозаместил софт для уникального 11-осевого робота-манипулятора

 © rostec.ru Ижевское предприятие НИТИ «Прогресс», находящееся под управлением компании «РТ-Капитал» Госкорпорации Ростех, разработало импортозамещающее программное обеспечение для уникального...