Подпишитесь на наши ежедневные и еженедельные рассылки, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли материалах об ИИ. Узнать больше
Китайский технологический гигант Baidu представил прорыв в области искусственного интеллекта, который может сделать языковые модели более надежными и заслуживающими доверия. Исследователи компании создали новую структуру «самообоснования», позволяющую системам ИИ критически оценивать собственные знания и процессы принятия решений.
Новый подход, подробно описанный в статье, опубликованной на arXiv, решает постоянную проблему в ИИ: обеспечение фактической точности больших языковых моделей. Эти мощные системы, лежащие в основе популярных чат-ботов и других инструментов ИИ, продемонстрировали замечательные возможности в создании текста, похожего на человеческий. Однако они часто испытывают трудности с фактической последовательностью, уверенно выдавая неверную информацию — явление, которое исследователи ИИ называют «галлюцинацией».
«Мы предлагаем новую структуру самообоснования, направленную на повышение надежности и прослеживаемости моделей дополненного языка поиска (RALM), основная идея которой заключается в использовании траекторий рассуждений, генерируемых самой LLM», — пояснили исследователи. «Фреймворк включает построение траекторий самообоснования с тремя процессами: процессом, учитывающим релевантность, селективным процессом, учитывающим доказательства, и процессом анализа траектории».
Работа Baidu затрагивает одну из самых актуальных проблем в разработке ИИ: создание систем, которые могут не только генерировать информацию, но и проверять и контекстуализировать ее. Включая механизм самоанализа, этот подход выходит за рамки простого поиска и генерации информации, углубляясь в сферу систем ИИ, которые могут критически оценивать свои собственные результаты.
Это развитие представляет собой переход от отношения к моделям ИИ как к простым предиктивным машинам к рассмотрению их как более сложных систем рассуждений. Способность к самоанализу может привести к ИИ, который будет не только более точным, но и более прозрачным в своих процессах принятия решений, что является важным шагом к укреплению доверия к этим системам.
Как самоанализирующий ИИ Baidu перехитрил галлюцинации
Инновация заключается в обучении ИИ критически оценивать собственный мыслительный процесс. Сначала система оценивает релевантность полученной информации заданному запросу. Затем она выбирает и цитирует соответствующие документы, как это сделал бы исследователь-человек. Наконец, ИИ анализирует свой путь рассуждения, чтобы сгенерировать окончательный, хорошо обоснованный ответ.
Этот многоэтапный подход позволяет модели быть более разборчивой в отношении используемой ею информации, повышая точность и предоставляя более четкое обоснование ее выходных данных. По сути, ИИ учится показывать свою работу — важнейшая функция для приложений, где прозрачность и подотчетность имеют первостепенное значение.
В оценках по нескольким наборам данных вопросов-ответов и проверки фактов система Baidu превзошла существующие современные модели. Возможно, наиболее примечательно то, что она достигла производительности, сопоставимой с GPT-4, одной из самых передовых систем ИИ, доступных в настоящее время, при использовании всего 2000 обучающих образцов.
Демократизация ИИ: эффективный подход Baidu может уравнять шансы
Такая эффективность может иметь далеко идущие последствия для отрасли ИИ. Традиционно обучение продвинутых языковых моделей требует огромных наборов данных и огромных вычислительных ресурсов. Подход Baidu предлагает путь к разработке высокоэффективных систем ИИ с гораздо меньшим объемом данных, что потенциально демократизирует доступ к передовым технологиям ИИ.
Снижая требования к ресурсам для обучения сложных моделей ИИ, этот метод может уравнять игровое поле в исследованиях и разработках ИИ. Это может привести к росту инноваций со стороны небольших компаний и исследовательских институтов, у которых ранее не было ресурсов, чтобы конкурировать с технологическими гигантами в разработке ИИ.
Однако крайне важно сохранять сбалансированную точку зрения. Хотя структура самоанализа представляет собой значительный шаг вперед, системам ИИ все еще не хватает тонкого понимания и контекстуальной осведомленности, которыми обладают люди. Эти системы, независимо от того, насколько они продвинуты, по сути остаются инструментами распознавания образов, работающими с огромными объемами данных, а не сущностями с истинным пониманием или сознанием.
Потенциальные приложения технологии Baidu значительны, особенно для отраслей, требующих высокой степени доверия и подотчетности. Финансовые учреждения могли бы использовать ее для разработки более надежных автоматизированных консультационных услуг, в то время как поставщики медицинских услуг могли бы использовать ее для оказания помощи в диагностике и планировании лечения с большей уверенностью.
Будущее ИИ: надежные машины в принятии критически важных решений
Поскольку системы ИИ все больше интегрируются в критические процессы принятия решений в различных отраслях, потребность в надежности и объяснимости становится все более насущной. Структура самообоснования Baidu представляет собой значительный шаг к решению этих проблем, потенциально прокладывая путь к более надежному ИИ в будущем.
Теперь задача заключается в расширении этого подхода на более сложные задачи рассуждения и дальнейшем повышении его надежности. Поскольку гонка вооружений ИИ продолжает накаляться среди технологических гигантов, инновации Baidu служат напоминанием о том, что качество и надежность систем ИИ могут оказаться столь же важными, как и их исходные возможности.
Это развитие поднимает важные вопросы о будущем направлении исследований ИИ. По мере того, как мы движемся к более сложным системам самообучения, нам, возможно, придется пересмотреть наши подходы к этике и управлению ИИ. Способность ИИ критически оценивать свои собственные результаты может потребовать новых фреймворков для понимания принятия решений и ответственности ИИ.
В конечном счете, прорыв Baidu подчеркивает быстрые темпы развития технологий ИИ и потенциал инновационных подходов для решения давних проблем в этой области. Поскольку мы продолжаем расширять границы возможностей ИИ, баланс между стремлением к более мощным системам и потребностью в надежности, прозрачности и этических соображениях будет иметь решающее значение.