Несколько исследователей в области безопасности сообщают, что OpenAI внезапно отозвала их доступ к программе с ограниченным доступом, которая снимает некоторые ограничения на использование её инструментов ИИ для исследований в области кибербезопасности. OpenAI подтвердила, что проблема была вызвана ошибкой.
В среду несколько исследователей на официальных форумах поддержки OpenAI и в X сообщили, что их доступ к программе Trusted Access for Cyber (TAC) был аннулирован. Люди сообщили, что при открытии страницы ChatGPT Cyber появлялось сообщение о том, что их личность не может быть верифицирована или что их учётная запись «в настоящее время не соответствует требованиям».
TAC — это специальная программа, через которую OpenAI предлагает проверенным исследователям доступ к наиболее продвинутым моделям ИИ компании с меньшими ограничениями в области кибербезопасности, чем у моделей, доступных обычным пользователям. Anthropic предлагает аналогичную программу под названием Cyber Verification Program (CVP).
Идея TAC и CVP заключается в том, чтобы предоставить доверенным специалистам более совершенные модели, чтобы они могли сообщать о багах и уязвимостях компаниям, с целью более быстрого устранения недостатков. Также ставится цель предотвратить доступ киберпреступников и злонамеренных хакеров к этим моделям и их использование для поиска багов и разработки эксплойтов для взлома компаний.
Чтобы получить доступ к TAC, исследователи в области кибербезопасности должны предоставить удостоверение личности и пройти проверку в OpenAI.
На данный момент не совсем понятно, почему доступ к TAC этих исследователей был отозван, а также сколько человек столкнулись с этой проблемой.
TechCrunch поговорил с пятью исследователями, которые сообщили, что у них возникла эта проблема. Один исследователь сообщил, что OpenAI отправила электронное письмо, в котором говорилось, что их доступ к Daybreak Blue, последнему проверенному уровню TAC, был отозван «из-за технической проблемы, затрагивающей ограниченное число пользователей».
«Это была проблема с нашей стороны, а не тот пользовательский опыт, который мы хотим предоставлять», — говорилось в сообщении, которым исследователь поделился с TechCrunch.
В теме на форумах OpenAI исследователь написал, что после того, как они обратились в официальную поддержку, компания также сослалась на «недавнюю техническую проблему», из-за которой некоторые пользователи потеряли доступ к Daybreak Blue.
В обоих сообщениях OpenAI попросила исследователей повторно подать заявку и завершить процесс верификации.
Все исследователи, с которыми общался TechCrunch, сказали, что живут за пределами США и Европы, что позволяет предположить, что ограничения доступа могут быть ограничены определёнными регионами.
OpenAI направила TechCrunch в твит, в котором компания сообщила, что «доступ ограниченного числа пользователей к Daybreak Blue больше не активен, и им необходимо повторно пройти верификацию, чтобы сохранить доступ».
Daybreak Blue — это новейший уровень для отдельных исследователей, который предоставляет доступ к «передовым моделям общего назначения, включая GPT‑5.6 Sol, с мерами защиты, адаптированными для санкционированной работы в области оборонной безопасности», согласно OpenAI, которая запустила его 10 августа. «Это рекомендуемая отправная точка для большинства специалистов по защите, поддерживающая обнаружение уязвимостей, проверку безопасного кода, анализ вредоносных программ, реагирование на инциденты и проверку исправлений».
В то же время компания также представила более высокий уровень под названием Daybreak Red, который предоставляет доступ к моделям, созданным специально для исследований в области кибербезопасности, что позволяет прошедшим проверку пользователям проводить «санкционированные исследования уязвимостей, проверку эксплойтов и тестирование безопасности».
В последние месяцы исследователи как в области оборонительной, так и в области наступательной безопасности жаловались на ограничения, введённые Anthropic и OpenAI, утверждая, что эти ограничения мешают им выполнять законную работу.
Обновлено с комментарием от OpenAI.
Читайте также другие новости на нашем сайте: Главная страница
Источник: techcrunch.com
Добавить комментарий