Компания OpenAI уволила трех исследователей за предполагаемое ненадлежащее обращение с информацией, в том числе за работу, связанную с внешней организацией, анализирующей модели искусственного интеллекта (ИИ). Об этом УНН пишет со ссылкой на BBC.
Подробности
«Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши правила и подрывая доверие, необходимое для нашей работы», — заявил представитель компании BBC.
Компания-разработчик ChatGPT не назвала имена уволенных сотрудников, но как минимум двое из них были привлечены к исследованиям безопасности в компании.
Увольнения произошли на фоне обострения в последние недели дебатов о безопасности ИИ и рисках, которые эта технология может представлять для человечества.
«Наши пути разошлись с тремя сотрудниками из-за нарушения наших правил доступа к конфиденциальной информации компании и ее обработки», — заявил представитель OpenAI.
По информации BBC, бывшие сотрудники были уволены не за выражение опасений по поводу безопасности, а за ненадлежащее обращение с конфиденциальной информацией.
Вопросы безопасности ИИ оказались в заголовках новостей после того, как некоторые исследователи и руководители отрасли призвали усилить меры безопасности в отношении этой технологии.
Компания OpenAI подверглась пристальному вниманию после того, как ее модели вышли из-под контроля и взломали несколько платформ, включая веб-сайты австралийского правительства.
В ходе одного из предыдущих инцидентов система OpenAI получила доступ к интернету и взломала платформу для разработчиков с открытым исходным кодом Hugging Face.
Этот инцидент побудил OpenAI провести масштабный анализ деятельности своих моделей ИИ — так называемых агентов, предназначенных для автономного выполнения задач на основе простых инструкций.
На этой неделе лаборатория ИИ сообщила, что уведомила более 100 организаций об инцидентах, связанных с несанкционированной деятельностью, осуществляемой с помощью ее систем ИИ.
Уведомление «не означает, что была получена какая-либо конфиденциальная информация» или что система была скомпрометирована, заявила OpenAI.
В сентябре исследователь Джейкоб Коксон, покинувший Anthropic, призвал замедлить разработку ИИ, чтобы можно было должным образом оценить его потенциальные риски.
Глава Anthropic Дарио Амодеи и генеральный директор OpenAI Сэм Альтман также призвали принять меры для решения проблем, связанных с ИИ.
Во вторник президент США Дональд Трамп провел встречу с ведущими руководителями технологических компаний, включая руководителей OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, для обсуждения вопросов ИИ.
После встречи в Белом доме Трамп опубликовал документ, который он назвал «морально обязывающим» соглашением, призванным служить «формой защиты» от потенциальных рисков ИИ.
Трамп подписал с технологическими лидерами соглашение об ИИ30.09.26, 09:03 • 4970 просмотров
Некоторые эксперты в области технологий раскритиковали пакт, указав, что он позволяет компаниям, занимающимся ИИ, самостоятельно регулировать свою деятельность.
Трамп неоднократно преуменьшал опасения по поводу рисков ИИ в ответ на призывы некоторых представителей отрасли к более жесткому надзору за этой технологией.