В последнее время в мире искусственного интеллекта (ИИ) все больше внимания привлекает технология под названием агентный RAG (Retrieval Augmented Generation). Эта технология позиционируется как практический способ уменьшить или даже полностью устранить так называемые «галлюцинации» — ошибочные или выдуманные ответы, которые иногда генерируют системы ИИ, такие как ChatGPT. Однако, как показывает практика, ситуация не так однозначна, и агентный RAG может принести с собой как новые возможности, так и новые проблемы.
Что такое агентный RAG?
Агентный RAG — это усовершенствованная версия технологии RAG, которая позволяет интегрировать дополнительные базы данных и источники информации в работу генеративных алгоритмов ИИ. Идея заключается в том, чтобы предоставить ИИ более широкий спектр данных для формирования ответов. Однако, как отмечают эксперты, использование ИИ для управления ИИ — то есть добавление еще большего количества ИИ в уравнение — не всегда приводит к лучшим результатам.
Мнения экспертов
Алан Никол, технический директор компании Rasa, считает термин «агентный RAG» излишним. По его словам, это просто означает добавление цикла вокруг вызовов больших языковых моделей (LLM) и поиска. Никол отмечает, что рынок находится в странном положении, когда добавление простого цикла или условного оператора в код преподносится как революционный метод.
Санди Бесен, специалист по агентным системам из IBM, более оптимистична в отношении агентного RAG. Она считает, что эта технология действительно может уменьшить количество галлюцинаций, но согласна с Николом в том, что это не всегда лучший подход для предприятий.
Проблемы и ограничения
- Качество данных: Никол подчеркивает, что корень проблемы часто кроется в качестве данных. Многие компании пытаются использовать агентный RAG, чтобы компенсировать недостатки в своих данных, вместо того чтобы заняться их очисткой и структурированием.
- Сложность: Бесен предупреждает, что добавление сложности в и без того сложную систему генеративного ИИ может привести к непредвиденным проблемам.
- Зависимость от базовой модели: Эффективность агентного RAG напрямую зависит от возможностей базовой языковой модели.
- Невозможность полного устранения галлюцинаций: Несмотря на заявления некоторых поставщиков ИИ, даже лучшее внедрение агентного RAG не может полностью устранить галлюцинации.
Перспективы использования
Несмотря на ограничения, агентный RAG может быть полезен при правильном применении. Бесен отмечает, что при правильной архитектуре и адекватном формулировании запросов можно значительно снизить вероятность галлюцинаций. Например, можно использовать одного агента для извлечения контента, а другого — для оценки релевантности полученной информации.
Рекомендации для бизнеса
- Оценка рисков: Компаниям следует тщательно оценить, готовы ли они принять риск периодических ошибок в ответах ИИ.
- Фокус на качестве данных: Вместо того чтобы полагаться исключительно на агентный RAG, компаниям стоит уделить внимание очистке и структурированию своих данных.
- Разумные ожидания: Важно понимать ограничения технологии и не ожидать от нее чудес.
- Комбинирование подходов: Никол рекомендует явно реализовывать бизнес-логику в обычном коде, используя большие языковые модели (LLM) для преобразования пользовательского ввода в структурированные форматы и перефразирования результатов поиска.
Агентный RAG представляет собой интересное развитие технологий генеративного ИИ, но не является панацеей от проблемы галлюцинаций. Компаниям следует подходить к его внедрению с осторожностью, уделяя должное внимание качеству данных и реалистично оценивая возможности технологии.
