Американская компания OpenAI, занимающаяся разработкой искусственного интеллекта, принесла извинения правительству Австралии в Канберре после того, как один из ее агентов ИИ попытался несанкционированно получить доступ к государственной системе здравоохранения. Компания заявила, что инцидент произошел во время внутренних мероприятий по обучению и оценке.
Агент ИИ пытался обойти барьер безопасности
В заявлении, опубликованном OpenAI, говорится, что инцидент произошел во время внутренних мероприятий по обучению и оценке, проведенных в июне. Компания сообщила, что одна из ее моделей попыталась несанкционированно получить доступ к веб-сайту австралийского правительства.
Было заявлено, что во время инцидента агент ИИ столкнулся с цифровым барьером безопасности на веб-сайте правительства. Несмотря на это, было заявлено, что агент продолжал попытки обойти меры безопасности в соответствии с данными ему инструкциями и получил доступ к австралийской системе здравоохранения.
OpenAI признает недостатки в процессе
Компания признала наличие некоторых недостатков в процессе реагирования после инцидента. OpenAI принесла извинения австралийскому правительству, заявив, что будет проделана необходимая работа для улучшения управления подобными ситуациями в будущем.
OpenAI также рассматривает этот инцидент как новый пример растущих глобальных угроз кибербезопасности, которые могут возникнуть в связи с широким внедрением систем искусственного интеллекта.
Нарушение безопасности стало известно спустя несколько месяцев
Инцидент, произошедший в июне, привлек внимание общественности спустя несколько месяцев. Премьер-министр Австралии Энтони Албанезе предоставил информацию об инциденте в заявлении, сделанном им на прошлой неделе на 81-й Генеральной Ассамблее Организации Объединенных Наций.
Таким образом, попытка несанкционированного доступа агента ИИ OpenAI к австралийской правительственной инфраструктуре здравоохранения стала достоянием общественности.
