Разговорный ИИ говорит нам то, что мы хотим слышать — выдумка о том, что Интернет надежен и дружелюбен.

Разговорный ИИ говорит нам то, что мы хотим слышать — выдумка о том, что Интернет надежен и дружелюбен.

Исходный узел: 1945652

Обзор Есть старая поговорка: когда дерутся великаны, страдает трава. Нам, маленьким людям, которые смотрят, нечего делать, кроме как бежать в укрытие и хватать попкорн.

В течение двух десятилетий Microsoft и Google считали друг друга принципиально нелегитимными. Microsoft так и не оправилась ни от поражения в битве за поиск, ни от провала Windows Mobile. У Google было стремление владеть универсальной операционной системой, но, как ни странно, она не смогла использовать глобальное доминирование Android за пределами мобильных устройств. Их битва продолжается на нескольких фронтах: Bing против Google Search, Azure против Google Cloud, и так далее.

И в нелицеприятном спектакле «мы добрались сюда до того, как вы не сделали», два гиганта вычислительной техники в последнее время пытаются подорвать усилия друг друга по запуску «диалоговых» поисковых продуктов, основанных на больших языках. Модели (LLM). Google потратил годы на усовершенствование LaMDA — в прошлом году это даже уволил сотрудника который убедил себя, что LaMDA обладает разумом, в то время как Microsoft кормление и поение OpenAI и его генеративный предварительно обученный преобразователь (GPT) для нескольких поколений.

В Google, вероятно, работает больше докторов наук в области ИИ, чем в любом другом бизнесе вместе взятом. В середине прошлого десятилетия она эффективно оголяла аспирантские программы в области ИИ по всему миру, нанимая целые группы студентов, поручая им улучшать качество результатов поиска фирмы.

С такими умственными способностями Google должен быть бесспорным лидером в общедоступных приложениях искусственного интеллекта. Но, конечно, Google хорошо справляется только с двумя вещами: поиском и таргетингом рекламы. Оба они нуждаются в большом количестве ума, но они хорошо скрыты от глаз реальных людей. Насколько Джо Гражданин может понять, эти огромные усилия в области ИИ были полностью потрачены впустую.

Это стало очевидно примерно через полчаса после открытия OpenAI. выпущен ChatGPT - его разговорный, контекстуально осведомленный LLM. Почти инстинктивно любой, кто взаимодействовал с ChatGPT, задавал себе вопрос: «Почему я не могу использовать это для поиска?» Его интерфейс кажется естественным, дискурсивным, дружелюбным и полностью человечным — полная противоположность уродливой странице результатов поиска, щедро приправленной рекламой, трекерами и всем прочим дерьмом, которое Google считает необходимым вставлять, чтобы поддерживать свою прибыль на высоком уровне.

Microsoft сразу увидела в ChatGPT оружие, необходимое для дестабилизации своего конкурента. Редмонд быстро подписал многомиллиардная инвестиционная сделка с OpenAI и гарантировал, что ChatGPT будет интегрирован во весь набор продуктов Microsoft. Это означает не только Bing, но и Office, Github и, скорее всего, Windows.

Примерно в это же время Google пошел «код красный» — что бы это ни значило. Она вернула Ларри и Сергея на палубу и сделала все возможное и как можно быстрее, чтобы интегрировать существующее множество LLM в флагманский поисковый продукт.

Но это выглядит поздно для сожалений.

На прошлой неделе Google объявил о специальное событие 8 февраля, чтобы показать свою работу над ИИ. Вскоре после этого в сеть просочился снимок экрана ChatGPT, интегрированного в Bing. Затем в понедельник, 6 февраля, генеральный директор Alphabet Сундар Пичаи объявил Бард - Попытка Google первого поколения интегрировать LaMDA в свою поисковую систему. Microsoft быстро организовала конкурирующее мероприятие (7 февраля, естественно), на котором рассказала о своем прогрессе в интеграции ChatGPT в Bing, подтвердив, что просочившийся скриншот является реальным.

Возможно, это не лучший способ приблизиться к такой мощной и сложной технологии, как разговорный, контекстуально осведомленный ИИ LLM. Один великан топает, другой топает в ответ — и страдает трава.

Возможно, за последние несколько месяцев сто миллионов человек поиграли с ChatGPT, восхищаясь его мощью… и его недостатками. Этот "стохастический попугай” (изобличающая, но точная техническая оценка) ничего не понимает, а только выплевывает то, что он оценивает как наиболее вероятное последующее из того, что уже было сообщено. Это полезно и интересно, но это непонимание. И эта нехватка глубины означает, что в ней нет абсолютно никакого здравого смысла.

Есть еще одна старая поговорка: «Человеку свойственно ошибаться, но чтобы действительно все испортить в масштабе, нужен компьютер».

И Google, и Microsoft пообещали, что их инструменты поиска в стиле LLM дадут пользователям понять, что на эти результаты нельзя полагаться. Но эти же две фирмы потратили десятилетия и бесчисленные миллиарды долларов, говоря нам, что компьютеры — наши надежные спутники: они никогда не забывают, никогда не ошибаются и открывают доступ к богатству человеческих знаний.

После всей этой идеологической обработки у нас нет иного выбора, кроме как доверять тому, что нам говорят ChatGPT или LaMDA. Поступать иначе означает игнорировать все, что мы слышали от двух поколений о том, что обещают компьютеры.

Microsoft и Google усилили свою игру, используя новое оружие, которое никто полностью не понимает, включая их самих. Это мудро? Это даже безопасно? ChatGPT, вероятно, сказал бы «да», но у него есть личная заинтересованность.

Разговорные ИИ превосходно говорят нам именно то, что мы хотим услышать. Google и Microsoft решили, что для их выживания в следующем поколении вычислений мы, пользователи, должны быть в окружении синтетических мошенников, постоянно смешивая факты и вымысел так тонко и так основательно, что истина теряется в шуме и почти непознаваема. Передайте попкорн. ®

Отметка времени:

Больше от Регистр