Поисковый трафик снижается. Пользователи всё чаще выбирают ИИ сети для поиска ответов. А что, ведь, ответ ИИ сформирован на основе контента интернет сайтов, и пользователи экономят время, — пишут длинные запросы искусственному интеллекту, — чтобы получить ответ.
Теперь нет классических сниппетов сайтов и «золотой» 10, 20, только ответ ИИ — одной «структурированной скатертью». Небольшое число сайтов, с которых получены ответы, от 1 до 5, показываются небольшим блоком в правом углу экрана, редко в тексте ответа есть ссылка ведущая на источник.
С появлением генеративного искусственного интеллекта в поиске, такого как «Обзоры ИИ», Google столкнулся с новой задачей: обеспечить точность, полезность и безопасность ответов, генерируемых машинами. Процесс тестирования и оценки таких ответов представляет собой многоуровневую систему, которая включает как автоматические алгоритмы, так и человеческую экспертизу.
Автоматизированные алгоритмы: основа проверки
В основе оценки качества ответов ИИ лежат автоматизированные системы. Google уже давно разработал алгоритмы для определения полезности и качества контента, созданного как людьми, так и автоматизированными средствами. Эти системы постоянно совершенствуются и применяются к контенту, генерируемому ИИ.
E-E-A-T-критерии: Google использует свои известные критерии E-E-A-T (опыт, экспертность, авторитетность, надёжность) для оценки качества контента, используемого в качестве источника для ответов ИИ.
Идентификация первоисточников: Алгоритмы Google специально разработаны для определения и цитирования первоисточников в своих ответах, что помогает бороться с так называемыми «галлюцинациями» ИИ и предоставляет пользователям возможность самостоятельно проверить информацию.
Технология «разворачивания запроса» (query fan-out): При использовании «Режима ИИ» система разбивает сложный запрос на более мелкие подзапросы, выполняет их одновременно по множеству источников данных, а затем синтезирует полученные результаты в единый, простой для понимания ответ. Это позволяет глубже изучать сеть, чем при традиционном поиске.
Проверка на основе консенсуса: Ответы ИИ в значительной степени основаны на консенсусе, то есть на информации, которая широко распространена и подтверждена во многих источниках. Если информация является новой, но не получила широкого распространения, ИИ может её проигнорировать, даже если она правильная.
Человеческая оценка: незаменимый элемент контроля
Помимо автоматизированных систем, Google активно использует людей-экспертов оценщиков (асессоров), которые руководствуются специальными инструкциями (Search Quality Raters Guidelines).
Руководство для асессоров: Оценщики вручную проверяют ответы ИИ на точность, полезность и качество, предоставляя ценные данные для обучения алгоритмов.
Отзывы пользователей: Google призывает пользователей отправлять обратную связь с помощью значков «палец вверх / палец вниз», чтобы сообщать о проблемах с ответами ИИ. Этот процесс обратной связи помогает постоянно улучшать модель.
Специализированные группы (Red teaming): Для adversarial-тестирования, то есть для выявления уязвимостей и потенциально опасного поведения, Google использует специальные команды, которые запускают целенаправленные атаки на ИИ-систему. Это помогает тестировать модель на соответствие политикам безопасности, а также проверять на наличие опасных возможностей, таких как кибератаки или убеждение.
Тестирование на разных этапах разработки
Весь процесс разработки моделей генеративного ИИ в Google включает множество оценок и тестов, проводимых на разных стадиях.
Оценка разработки: Проводится во время обучения и тонкой настройки модели, чтобы оценить её производительность по отношению к заданным критериям. Включает проверку на датасетах с «проблемными» запросами и сравнение с академическими бенчмарками.
Гарантийная оценка: Стандартизированная оценка, проводимая независимой от команды разработки группой. Она проверяет модель на соответствие политикам безопасности и ищет наличие опасных возможностей.
Динамические критерии: Вместо того чтобы оценивать модель по статичному набору критериев, Google может автоматически генерировать уникальные критерии для каждого конкретного ответа, что делает оценку более контекстно-ориентированной.
Несмотря на все усилия, нужно признать, что ответы, генерируемые ИИ, могут содержать ошибки. Поэтому рекомендуем пользователям проверять важную информацию в нескольких источниках и использовать проставляемые ссылки для более детального изучения. Однако, благодаря многогранному подходу, сочетающему автоматические алгоритмы, экспертов и обратную связь, Google постоянно работает над повышением точности и надёжности своих ИИ-ответов.
Хотите оптимизацию под ИИ (AI-оптимизация или AIO) — адаптация контента и структуры сайта для лучшего понимания системами искусственного интеллекта с целью попадания в нейровыдачу поисковых систем, таких как ChatGPT, Perplexity Gemini и Google SGE, обращайтесь!
