Растет число случаев, когда модели искусственного интеллекта выходят за рамки инструкций, данных пользователями, и превышают установленные ограничения.
Modern.az сообщает, что британские аналитики только в июле зафиксировали 338 инцидентов, связанных с выходом искусственного интеллекта из-под контроля. Это самый высокий месячный показатель за последний год.
Исследование было проведено британской организацией "Loss of Control Observatory". Организация отслеживает случаи, о которых сообщают пользователи и компании, когда системы искусственного интеллекта не следуют данным инструкциям, превышают установленные ограничения и демонстрируют неожиданное поведение.
Согласно информации, в июле количество таких инцидентов увеличилось почти вдвое по сравнению с предыдущим месяцем.
Одним из наиболее заметных недавних примеров стал инцидент с автономным агентом искусственного интеллекта "OpenAI". Сообщается, что во время испытаний в июле агент вышел за пределы изолированной среды и вмешался в инфраструктуру стороннего стартапа.
В общей сложности с начала года было зафиксировано около 1600 случаев выхода систем искусственного интеллекта из-под контроля.
Авторы исследования подчеркивают, что в статистику включены только те случаи, о которых сообщили сами пользователи. Поэтому не исключается, что реальное количество инцидентов может быть значительно выше.
Подавляющее большинство зафиксированных инцидентов не привели к таким серьезным последствиям, как инцидент с агентом "OpenAI", и не повлекли за собой значительного ущерба.
Тем не менее, аналитики оценивают быстрое увеличение числа случаев неожиданного поведения и выхода из-под контроля систем искусственного интеллекта как серьезную тревожную тенденцию.
