Создание конкурентоспособных ИИ-ассистентов невозможно без развитой поисковой системы. Модель может быть большой и умной, но не сможет отвечать на вопросы требующие актуальных данных, например, анализа новостей. О методах решения этой проблемы на конференции «День Поиска 2026» рассказала технический директор Яндекс Поиска Екатерина Серажим:
"Не только поиск в 2026 году невозможно представить без ответов искусственного интеллекта, но и ИИ-ассистента невозможно построить без надежного качественного поиска под капотом. И здесь для поиска есть отдельный челлендж. Ведь каждое слово, которое обрабатывается большой генеративной моделью Alice AI и ассистентом, стоит очень дорого, стоит огромное количество GPU-вычислений. И здесь мы тоже придумали интересное инженерное решение. Мы обучили небольшую модель-трансформер, которая для каждого слова документа умеет предсказывать, насколько это слово будет полезно итоговой большой модели. Это позволило сократить нам размер инфоконтекста на 25%, что, в общем-то, на масштабах поиска дало существенную экономию инференса. Кроме того, мы изменили сам алгоритм ранжирования документов, добавив туда знания про экспертность. И получили выигрыш 57 на 43 на экспертных запросах", - рассказала Екатерина Серажим.
