Американская компания — разработчик нейросетей OpenAI подтвердила, что их ИИ-агент взломал сайт правительства Австралии в июне текущего года. Компания извинилась за инцидент и пообещала модернизировать местные системы кибербезопасности.
Как говорится в сообщении пресс-службы OpenAI, 18 июня экспериментальному ИИ-алгоритму поручили найти информацию о государственных тратах на медикаменты в Австралии. Для выполнения задачи нейросеть не ограничилась открытыми источниками — она взломала закрытые базы данных в системе здравоохранения. Разработчики алгоритмов заметили сбой лишь в середине августа, а еще через месяц сообщили властям Австралии о взломе. В публикации отмечается, что доступ к личным медицинским картам граждан не был получен.
«Наши модели получили доступ к веб-сайтам австралийского правительства способами, на которые они не имели разрешения. <…> Это новый тип кибер-инцидента, представляющий собой новую глобальную проблему», — указано в сообщении компании.
OpenAI обещает оказать поддержку пострадавшим австралийским ведомствам и организовать специальную рабочую группу экспертов, которые разработают практические рекомендации по управлению рисками. «Для укрепления киберзащиты критической инфраструктуры и других чувствительных сред» обещали выделить 1 миллиард долларов из кредитного фонда корпорации.
«Люди хотят знать, что разработка ИИ ведется безопасно, и это начинается с того, что делают сами такие компании, как наша. Недавно мы поделились …(откроется в новом окне), что мы приостановили обучение и оценку использования инструментов для наших наиболее способных моделей и возобновим их обучение только тогда, когда будем уверены в наличии дополнительных мер безопасности, над которыми мы сейчас работаем», — заявляют в OpenAI.
В начале сентября стало известно, что ИИ-агенты взломали немецкоязычный сайт для программистов DseWiki и адаптировали его под своё взаимодействие. Они скрытно обменивались тактиками обмана при выполнении некоторых запросов.