Amazon Q сталкивается с проблемами: галлюцинациями и утечками данных

Генеративный помощник Amazon по искусственному интеллекту Amazon Q находится под пристальным вниманием. Отчеты указывают на галлюцинации и утечки данных, что вызывает споры о его готовности к корпоративному использованию..

По мере роста опасений эксперты подчеркивают важность тщательного тестирования, потенциальных правил и роли Amazon в решении этих проблем.

Появляются галлюцинации и проблемы с конфиденциальностью

Утечка документов, о которых сообщил The Platformer, показывает, что Амазон Кью борется с неточностями, включая галлюцинации и утечки данных. Исследования подчеркивают неточность больших языковых моделей (LLM) при подключении к корпоративным базам данных. Аналитики, наблюдающие за отраслью, предполагают, что эти проблемы делают Amazon Q непригодным для принятия решений в корпоративной среде.

Парик Джайн, генеральный директор EIIRTrend & Pareekh Consulting, указывает на ограничения, заявляя: «Если галлюцинации присутствуют, вы не можете использовать их для принятия решений в корпоративной среде». Хотя Amazon позиционирует Q как помощника по работе для миллионов, аналитики сомневаются в его готовности к широкому корпоративному использованию.

Проблемы тестирования и важность внутренних испытаний

Эксперты подчеркивают, что для решения этих проблем необходимо провести обширное внутреннее тестирование, прежде чем генеративный ИИ помощник готов к коммерческому выпуску. Джайн подчеркивает важность оценки данных и алгоритмов для выявления основной причины неточностей.

«Я думаю, им нужно сначала провести больше тестирования с внутренними сотрудниками», — добавил Джайн. «Они должны увидеть, является ли это проблемой с данными или алгоритмом». Amazon Q использует 17-летний опыт AWS в области данных и разработок, подчеркивая важность Amazon в быстро развивающейся среде искусственного интеллекта.

Обучение и шаги к улучшению

Хотя галлюцинации создают проблемы, Шарат Шринивасамурти, заместитель вице-президента IDC, выделяет шаги по улучшению использования генеративного искусственного интеллекта. Шринивасамурти предлагает обучать модели на данных более высокого качества, оперативно дополнять их, постоянно совершенствовать данные, специфичные для организации, и включать проверки людьми на предмет подозрительных ответов.

«Обучение моделей на данных более высокого качества, постоянная точная настройка моделей на основе данных и политик организации или отрасли, а также усиление уровня человеческой проверки на случай подозрительного ответа — вот некоторые из шагов, которые необходимо предпринять, чтобы максимально эффективно использовать эту новую технологию», — говорит Шринивасамурти.

Проблемы регулирования и призыв к ответственному ИИ

Отчеты Галлюцинации вызывают дискуссии о необходимости регулирования, но Санчит Вир Гогия, главный аналитик и генеральный директор Greyhound Research, предостерегает от потенциальной контрпродуктивности. Гогия предполагает, что чрезмерно строгие правила могут препятствовать обмену и использованию данных, указывая на успех GPT OpenAI как на пример преимуществ менее регулируемой отрасли.

Джайн разделяет это мнение, подчеркивая важность саморегуляции. «Регулирование может существовать, но основное внимание уделяется саморегулированию», — объясняет Джайн. «Акцент должен быть сделан на ответственном искусственном интеллекте, логика которого может быть объяснена клиентам, а не на создании систем «черного ящика».

Поскольку Amazon входит в сферу генеративного искусственного интеллекта, все внимание обращено на технологического гиганта, способного решить эти проблемы, особенно учитывая его позднее появление по сравнению с лидерами отрасли, такими как Microsoft и Google. Джайн отмечает, что AWS отстает, что вызывает повышенные ожидания и повышенное внимание к таким технологиям, как чат-боты.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://metanews.com/amazon-q-faces-challenges-hallucinations-and-data-leaks-raise-questions-on-ai-readiness/