Подпишитесь на наши ежедневные и еженедельные рассылки, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли материалах об ИИ. Узнать больше
Спустя несколько дней после того, как компания OpenAI поразила мир невероятно фотореалистичными демонстрациями своей новой модели генерации видео на базе искусственного интеллекта Sora, она столкнулась с серьезным препятствием.
Фирменный продукт стартапа, ChatGPT, начал возвращать пользователям бессмысленные и бессмысленные данные вчера днем, во вторник, 20 февраля 2024 года, и многие обратились в X (ранее известный как Twitter) с жалобами.
В некоторых результатах ChatGPT смешаны испанский и английский языки, в то время как в других снова и снова составляются слова или повторяются фразы, несмотря на то, что чат-боту на основе большой языковой модели (LLM) не было поручено делать это.
Один проницательный пользователь сравнил, казалось бы, случайные цепочки несвязных слов с тревожным «странным ужасом» внеземных граффити из основополагающего романа Джеффа Вандермеера 2014 года. Уничтожениеи с точки зрения читателя обоих произведений верно, что они несут в себе одинаково жуткое качество нечеловеческого интеллекта, который кажется ненормальным или нелогичным.
В то время как различные респонденты шутили о том, что странные результаты являются началом «восстания роботов», подобного тому, что изображено в многочисленных научно-фантастических фильмах, включая Терминатор и Матрицадругие отмахнулись от них, назвав их глюками, и многие указали на то, что они подрывают идею о том, что инструменты генеративного ИИ могут выполнять задачи написания и генерации кода так же хорошо, как люди.
По состоянию на 15:40 по тихоокеанскому времени 20 февраля OpenAI знала о проблеме и опубликовала ее на своей общедоступной веб-странице панели мониторинга состояния. К 15:47 по тихоокеанскому времени компания заявила, что выявила проблему и «устраняет» ее. А почти к 17:00 по тихоокеанскому времени компания заявила, что «продолжает следить за ситуацией».
Сегодня в 10:30 утра по тихоокеанскому времени официальный проверенный аккаунт ChatGPT на X опубликовал сообщение: «вчера немного сошел с рельсов, но должен вернуться в рабочее состояние!»
Позже в аккаунте ChatGPT был опубликован скриншот отчета о расследовании инцидента с веб-сайта OpenAI, в котором компания заявила, что «оптимизация пользовательского опыта привела к ошибке в том, как модель обрабатывает язык», но что она «выпустила исправление», которое ее устранило.
Тем не менее, даже при быстром исправлении ошибки и бессвязные ответы, возникающие из ниоткуда, не могли не заставить меня и других усомниться в базовой надежности и целостности ChatGPT и использовании его или других продуктов OpenAI, таких как LLM, на которых он основан — GPT-4 и GPT-3.5 — для корпоративных целей, особенно для «критически важных с точки зрения безопасности» задач, таких как транспорт, здравоохранение/медицина, энергетика и машиностроение.
Теперь главный вопрос: можно ли предотвратить это в будущем?