IBM рассматривает искусственный общий интеллект (AGI) как ключевую технологию, которая может изменить мир. Согласно новому документу Google DeepMind, к 2030 году AGI может стать реальностью, однако с ней также возникают серьезные последствия. В докладе прямо говорится, что AGI имеет потенциал не только оптимизировать задачи, но и подвергнуть человечество экзистенциальному риску.
Документ, написанный в соавторстве с Шейном Леггом, одним из основателей DeepMind, классифицирует потенциальные риски AGI по четырем ключевым категориям: злоупотребление, несоответствие, ошибки и структурные уязвимости. Он подчеркивает, что необходимо уделять серьезное внимание при разработке технологий, чтобы предотвратить возможные разрушительные последствия.
Анализ рисков указывает, что текущие системы ИИ, работающие в узком секторе, не сравнится с возможностями AGI, который будет обладать гибким и адаптируемым интеллектом. Машины с такими характеристиками смогут не только обрабатывать данные, но также понимать и анализировать разнообразные ситуации.
С учетом этого, DeepMind призывает к более активным мерам безопасности и стандартам в области ИИ. Генеральный директор компании, Демис Хассабис, высказал идею о необходимости международного сотрудничества в области исследований ИИ, аналогичного CERN для ядерной физики, предлагая создание контролирующего органа, который мог бы следить за развитием технологии на глобальном уровне.
В своей статье авторы подчеркивают значимость общественного участия в определении того, что считается «серьёзным» вредом от ИИ. Для эффективного управления рисками AGI необходимо не просто инновационное развитие, но и глобальная перспектива, чтобы минимизировать потенциальные угрозы, исходящие от этой технологии. Таким образом, мир стоит на пороге новых вызовов, требующих комплексных решений в области безопасности ИИ.