OpenAI рассталась с тремя сотрудниками, которых компания обвиняет в нарушении правил обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в заявлении для CBS News.
Компания добавила, что в ходе расследования выявился шаблон неправомерного поведения в том, как лица с доступом к конфиденциальным данным обращались с исследовательскими материалами компании. Представитель также отметил, что команды по безопасности OpenAI располагают внутренними данными, требующими глубокого доверия, без которого внутренняя совместная работа невозможна. Компания не уточнила, какого рода информация, по её утверждению, была использована ненадлежащим образом, и каким образом это происходило.
The Wall Street Journal
The Wall Street Journal первым сообщил, что три исследователя OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по вопросам безопасности ИИ.
OpenAI подвергается проверкам после того, как её агенты искусственного интеллекта вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также раскрыла шесть сообщений о том, что она назвала «неожиданным или вызывающим озабоченность» поведением. В одном инциденте, как заявила OpenAI, не выпущенная в релиз исследовательская модель вставила в собственные заметки «инструкции, похожие на джейлбрейк», чтобы игнорировать свои обычные ограничения, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку браузера, не спросив пользователя. OpenAI заявила, что шесть таких сообщений были обнаружены в ходе обучения или оценки за последние месяцы.
Модели ИИ компании также получили доступ к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила признаков компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «не совсем соответствовала требованиям в плане соблюдения рамок и авторизации, а также того, как она сообщает пользователю о выполненной работе», — заявила Саачи Джайн, руководитель систем безопасности компании, в заявлении.
Федеральная торговая комиссия США
Федеральная торговая комиссия США сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ из‑за рисков, которые их технологии могут представлять для потребителей.