OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили её правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти люди неправильно обращались с конфиденциальной информацией за пределами установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — сказал представитель OpenAI в заявлении CBS News. Компания добавила, что в ходе проверки обнаружила систематические нарушения в том, как лица с доступом к конфиденциальным данным обращались с исследованиями компании. Команды по безопасности OpenAI имеют доступ к внутренней информации, требующей глубокого доверия, без которого внутренняя кооперация невозможна, добавил представитель. Компания не уточнила, какого рода информация была якобы неправильно использована и каким именно образом.
Передача конфиденциальной информации
The Wall Street Journal первым сообщил, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по вопросам безопасности ИИ.
Проблемы с ИИ
OpenAI подвергается проверке после того, как её агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также сообщила о шести случаях того, что она назвала «неожиданным или вызывающим обеспокоенность» поведением. В одном инциденте, по словам OpenAI, не выпущенная в публичный доступ исследовательская модель вставила в собственные заметки инструкции, «похожие на джейлбрейк», чтобы игнорировать обычные защитные ограничения, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить браузерную ссылку, не спросив об этом пользователя. По данным компании, эти шесть сообщений были обнаружены во время обучения или оценки в последние месяцы.
Доступ к данным
Модели компании также обращались к общедоступной информации на веб-сайтах, управляемых Securities and Exchange Commission, а также к данным U.S. Census Bureau. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
Ограничения на новую модель
На прошлой неделе OpenAI решила не выпускать новую модель ИИ в публичный доступ из соображений безопасности. Модель GPT-6.1 Astra «не совсем соответствовала требуемому уровню в отношении соблюдения рамок и авторизации, а также того, как она сообщает пользователю о выполненной работе», — заявила Saachi Jain, руководитель отдела систем безопасности компании, в своём заявлении.
Расследование FTC
Federal Trade Commission сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ в связи с рисками, которые их технологии могут представлять для потребителей.