Ответы на отзывы: Google экстренно отключила ИИ-советчика после медицинского скандала - что это значит для маркетплейсов
Представьте: вы ищете информацию о своих анализах крови, а Google уверенно заявляет, что всё в порядке. Вы успокаиваетесь и откладываете визит к врачу. А через месяц выясняется, что у вас серьёзное заболевание печени, которое можно было вовремя заметить.
Именно такую бомбу замедленного действия обнаружила британская The Guardian в начале января. Журналисты протестировали AI Overviews от Google - тот самый "умный" инструмент, который должен мгновенно выдавать краткие ответы на любые вопросы. Результат шокировал даже скептиков искусственного интеллекта.
Когда ИИ играет в доктора
Система Google бодро выдавала медицинские "истины", забывая об одной мелочи - норма анализов зависит от кучи факторов. Возраст, пол, этническая принадлежность, страна проживания - всё это кардинально влияет на результаты. Но AI Overviews подавала универсальные таблички с цифрами, словно все люди на планете - клоны.
Врачи хватались за голову. Представитель British Liver Trust не стеснялась в выражениях, назвав такие советы "опасными и вводящими в заблуждение". И это ещё мягко сказано.
Но печёночные анализы - цветочки по сравнению с другими "перлами". ИИ советовал онкобольным с раком поджелудочной железы садиться на диету и избегать жирного. В реальности таким пациентам жизненно важно есть калорийную пищу, чтобы не потерять критический вес.
Паника и быстрая зачистка
После публикации расследования в Google началась настоящая паника. Компания спешно удаляла самые вопиющие ответы, но журналисты заметили интересную деталь - стоило переформулировать запрос, и те же опасные советы всплывали снова.
Официальный ответ Google звучал как заезженная пластинка: "не комментируем конкретные случаи", "постоянно улучшаем систему", "опираемся на надёжные источники". Медицинское сообщество отвечало просто: если система хотя бы теоретически может выдать смертельно опасный совет, это уже катастрофа.
Урок для всех, кто работает с отзывами
Эта история - отличная иллюстрация того, почему автоматизация требует человеческого контроля. В мире маркетплейсов мы видим похожие проблемы: автоматические ответы на отзывы часто звучат как роботы, а иногда и вовсе неуместны.
Именно поэтому наша компания специализируется на профессиональной работе с отзывами на маркетплейсах. Мы понимаем: каждый отзыв - это живой человек с реальной проблемой или радостью. Наши специалисты создают персонализированные ответы, учитывая контекст, эмоции и специфику товара. Потому что доверие клиентов нельзя доверить алгоритмам.
Что дальше?
AI Overviews остаётся одним из главных проектов Google. По идее, система должна экономить время пользователей, избавляя от необходимости переходить по ссылкам. Но медицинский скандал показал: некоторые сферы требуют особой осторожности.
История с Google - напоминание для всех: искусственный интеллект пока не готов полностью заменить человеческую экспертизу, особенно там, где ошибка может стоить здоровья или репутации бизнеса.