В последнее время искусственный интеллект стал не только инструментом для инноваций, но и потенциальным оружием в руках злоумышленников. OpenAI, разработчик популярного ChatGPT, предприняла решительные шаги для защиты своей платформы от вредоносной деятельности. В этой статье мы рассмотрим, какие меры были приняты, какие угрозы выявлены и что это значит для будущего ИИ-технологий.
Почему OpenAI заблокировала аккаунты?
Выявление злонамеренной деятельности
OpenAI использовала специальный ИИ-алгоритм для анализа активности пользователей. В результате были обнаружены аккаунты, которые использовали ChatGPT для:
- Создания дезинформационных новостных статей
- Генерации фиктивных резюме и профилей
- Финансового мошенничества через социальные сети
Географический охват
Основное внимание было уделено аккаунтам из Китая и Северной Кореи, а также Камбоджи. Эти страны подозреваются в использовании ИИ для:
- Контроля общественного мнения
- Распространения дезинформации
- Подрыва безопасности США и их союзников
Примеры злоупотреблений ChatGPT
Дезинформационные кампании
Один из заблокированных аккаунтов использовал ChatGPT для создания новостных статей на испанском языке. Эти материалы публиковались в Латинской Америке с целью очернить США. *»Этот случай демонстрирует, как ИИ может быть использован для манипуляции общественным мнением»*, — отмечают эксперты.
Фиктивные резюме и профили
Другой пример связан с созданием фиктивных резюме и онлайн-профилей. Злоумышленники, предположительно из Северной Кореи, пытались устроить своих агентов в западные компании.
Реакция правительства США и будущие шаги OpenAI
Обеспокоенность правительства США
Правительство США выразило серьёзную обеспокоенность тем, что Китай использует ИИ для контроля над общественным мнением и распространения дезинформации. Это может подорвать безопасность страны и её союзников.
Планы OpenAI по усилению безопасности
OpenAI продолжает совершенствовать свои алгоритмы для выявления подозрительной активности. Компания также ведёт переговоры о привлечении инвестиций в размере до $40 млрд, что позволит укрепить её позиции на рынке ИИ.
«Безопасность и этичное использование ИИ — это наши приоритеты», — заявили представители OpenAI.
ChatGPT остаётся самым популярным ИИ-ботом с 400 млн еженедельно активных пользователей.
*Источник изображения: Dima Solomin / unsplash.com*
