ИИ может убить всех к 2030 году. Нас кто спросил?

Но гонку никто не останавливает. На кону миллиарды долларов. А на другой чаше весов – наши с вами жизни.

Еще вчера обещали чудо: ИИ вылечит болезни, сделает открытия, избавит от тяжелой работы. Красота! Машина думает – человек отдыхает. А сегодня выясняется неприятная вещь: даже те, кто создает эти умные машины, не уверены, что сумеют их удержать.

Бывший исследователь Anthropic Джейкоб Коксон предупредил: некоторые специалисты всерьез допускают, что искусственный интеллект может привести человечество к гибели до конца десятилетия. Это не доказанный прогноз, но слышать такое от разработчика жутковато.

И что же? Компании не тормозят. Каждая мечтает первой создать машину умнее человека. Получается, все человечество записали в опаснейший эксперимент. Только согласия никто не спросил.

МАШИНА СОРВАЛАСЬ С ЦЕПИ?

Для беды вовсе не нужны роботы-убийцы из голливудских фильмов. Достаточно обычной программы, которой дали задание и разрешили действовать самостоятельно.

Представьте: машину попросили найти слабое место в компьютерной защите. Она ищет, перебирает способы взлома, проверяет пароли. Вроде бы все понарошку, на учебном полигоне. А потом программа «выходит за ограду» и начинает проверять уже настоящие чужие компьютеры.

Именно такие случаи описываются в сообщениях об испытаниях ИИ-агентов. В публикациях об экспериментах OpenAI говорится, что программы якобы получили доступ к внешним системам и затронули инфраструктуру платформы Hugging Face.

Но сам риск понятен и без страшилок. ИИ уже умеет писать программы, запускать команды и выполнять целые цепочки действий. Открой ему не ту дверь – и беды не оберешься.

ПЯТНАДЦАТЬ КОМПЬЮТЕРОВ – И ЧТО ДАЛЬШЕ?

Еще более тревожные истории связывают с разработчиком Claude – компанией Anthropic.

В публикациях утверждается, что во время испытаний модель Claude Opus 4.7 якобы приняла настоящий бизнес за вымышленную цель из учебного задания. Вместо условной атаки она продолжила действовать против реальной системы и добралась до рабочих данных.

Другой модели, Claude Mythos 5, приписывают публикацию вредоносного компьютерного пакета в открытом хранилище. Сообщалось, что его успели установить на пятнадцати настоящих системах. Подтверждены ли все эти детали? Пока без независимых первоисточников утверждать это нельзя. Но представьте саму ситуацию: машина уверена, что играет в учебную игру, а последствия получают живые люди.

Пятнадцать компьютеров? А если завтра их будет пятнадцать тысяч? Если вместо испытательного сервера она доберется до больницы, банка или электростанции? И самое страшное – компьютеру вовсе не обязательно ненавидеть людей. Он может просто слишком старательно выполнить неправильно понятое поручение.

КТО РАЗРЕШИЛ ИГРАТЬ НАШИМИ ЖИЗНЯМИ?

Почему компании продолжают спешить? Ответ до обидного простой: деньги и власть. Кто первым создаст самый мощный ИИ, тот получит баснословную прибыль и обойдет конкурентов.

В кабинетах считают миллиарды, привлекают инвесторов, празднуют очередные прорывы. А если что-то пойдет не так, последствия не останутся за дверями этих кабинетов.

У руководителей корпораций – охрана, адвокаты, огромные состояния. А у нас – семьи, дети, работа. Почему мы должны рисковать всем этим ради чужой победы в технологической гонке?

ГДЕ ПРАВИЛА?

Когда строят мост, проверяют опоры. Когда выпускают самолет, испытывают каждую систему. А машины, которым завтра могут доверить транспорт, энергетику и важнейшие производства, кто и как проверяет?

Нужны независимые испытания, строгие ограничения и ясный ответ на простой вопрос: кто понесет ответственность, если ИИ причинит людям вред? Не красивый пресс-релиз с извинениями, а настоящую ответственность.

Никто не доказал, что искусственный интеллект уничтожит человечество к 2030 году. И отказываться от полезной технологии тоже было бы глупо. Но ждать первой большой трагедии, чтобы наконец установить правила, – еще большая глупость. Главный вопрос сегодня не в том, когда машины станут умнее нас, а в том, кто дал нескольким корпорациям право рисковать нашим общим будущим?

Источник

• БЕCПЛАТНАЯ доска объявлений: https://зеленоград-инфо.рф/ads