Прозвучало новое предупреждение об опасностях, которые может создать быстрое развитие искусственного интеллекта.
Modern.az сообщает, что об этом информирует BBC.
Эван Хабингер, исследователь безопасности искусственного интеллекта в компании «Anthropic», оценил вероятность того, что искусственный интеллект приведет к уничтожению всего человечества в течение следующих 10 лет, как превышающую 10 процентов.
Хабингер заявил, что угроза, создаваемая текущими моделями искусственного интеллекта, пока находится на низком уровне. Главное, что его беспокоит, это то, что технология в ближайшем будущем достигнет уровня, когда сможет самосовершенствоваться.
По мнению исследователя, если системы искусственного интеллекта быстро увеличат свои возможности, люди могут потерять контроль над этими системами. Это может превратить технологию в экзистенциальную угрозу для человечества.
Хабингер высказал эти мысли в ответ на сообщение Джейкоба Коксона, исследователя искусственного интеллекта, который ранее работал в «OpenAI» и «Anthropic». Коксон, объявивший о своем уходе из «Anthropic», обвинил обе компании в безответственном поведении.
«Эти системы вскоре могут превзойти людей. Они могут взломать любую систему, произвести революцию в различных областях за одну ночь, получить реальную власть и ресурсы», – заявил Коксон.
Anthropic не тестировала свою новую модель в Великобритании
Предупреждение прозвучало на фоне того, что «Anthropic» не представила свою новейшую модель искусственного интеллекта Институту безопасности искусственного интеллекта Великобритании – AISI.
По данным «Financial Times», компания не позволила AISI протестировать свою новую модель перед выпуском. Это решение вызвало обеспокоенность в правительстве Великобритании по поводу независимой оценки безопасности моделей искусственного интеллекта.
BBC обратилась к «Anthropic» по этому вопросу, но ответ компании не был опубликован. Представитель Кабинета министров Великобритании также не подтвердил, была ли модель представлена институту.
Ведомство заявило, что правительство продолжает сотрудничать с технологическими компаниями, включая «Anthropic», в направлении повышения безопасности моделей искусственного интеллекта.
«Искусственный интеллект превратился в гонку США-Китай»
Профессор машинного обучения Кембриджского университета Нил Лоуренс считает, что решение «Anthropic» может быть связано с усиливающимся технологическим соперничеством между США и Китаем.
По его словам, в США искусственный интеллект все чаще рассматривается как часть стратегической гонки с Китаем. Более закрытая политика Вашингтона в этой области может привести к сокращению сотрудничества со странами-союзниками.
Превосходство искусственного интеллекта над человеческим разумом и появление систем «суперинтеллекта», способных к самостоятельному развитию, стали одной из основных тем дискуссий о безопасности технологий в последние годы. Тем не менее, показатель выше 10 процентов, озвученный Хабингером, не является научным консенсусом, а представляет собой личную оценку риска исследователя.
Айдан Гасымова
