OpenAI отслеживает переписки пользователей на опасное содержание

OpenAI подтвердила, что проводит мониторинг диалогов пользователей с целью выявления потенциально угрожающих ситуаций. Если алгоритмы системы заподозрят, что пользователь намерен причинить вред, информация передается в специализированную команду, которая решает, следует ли ограничить доступ к аккаунту. В случаях явной угрозы физического насилия данные могут быть переданы правоохранительным органам, согласно пресс-релизу компании.

Правила использования ChatGPT довольно неопределенны, однако четко указано, что его нельзя применять для пропаганды самоубийств, создания оружия или взлома. OpenAI не раскрывает, какие конкретные фразы могут инициировать проверку сообщений. Интересно, что случаи самоповреждения не передаются в полицию, так как компания считает их слишком личными.

Эта новость пришла на фоне критики, связанной с тем, что чат-боты могли подталкивать людей к самоубийству. На данный момент OpenAI ограничилась общими заявлениями о повышении безопасности системы. Также в центре внимания находится судебный процесс с The New York Times, требующей предоставить логи переписок для проверки использования своих материалов в обучении ChatGPT. Пользователи выражают мнение, что лучше обсуждать личные вопросы с людьми, а не с алгоритмами.

Вопрос-ответ

Как OpenAI мониторит диалоги и что происходит при обнаружении потенциальной угрозы?

OpenAI анализирует диалоги пользователей с целью выявления потенциально угрожающих ситуаций. Если система заподозрит, что пользователь намерен причинить вред, информация передается в специализированную команду, которая решает, следует ли ограничить доступ к аккаунту или предпринять другие меры.

В каких случаях данные передаются правоохранительным органам?

В случаях явной угрозы физического насилия данные могут быть переданы правоохранительным органам, согласно пресс-релизу компании. Для случаев самоповреждений полиция не привлекается, так как такие вопросы считаются слишком личными и не направляются в органы.

Что считается нарушением правил использования ChatGPT?

Правила использования не являются полностью конкретными, но четко запрещают пропаганду самоубийств, создание оружия и взлом. OpenAI не публикует полный перечень фраз, которые могут инициировать проверку, что означает необходимость осторожного и ответственного обращения к сервису.