Киберустойчивость в эпоху искусственного интеллекта

Киберустойчивость в эпоху искусственного интеллекта

Отметка времени: 9 января 2024 г., 9:45
Исходный узел: 3052472

Партнерский контент В некоторых ИТ-отделах может наблюдаться некоторое иррациональное энтузиазм по поводу того, что GenAI может склонить игровое поле киберзащиты в свою пользу.

Согласно Dell Technologies, ВВП 2024 г. Согласно опросу, 52 процента респондентов считают, что GenAI изначально даст преимущество организациям, защищающимся от киберугроз, и только 27 процентов считают, что он принесет пользу киберпреступникам.

Однако рекомендуется соблюдать осторожность. Эксперты, в том числе технический директор Dell Technologies Джон Роуз, предполагают, что киберпреступники могут использовать GenAI раньше, чем предприятия, что дает им решающее преимущество в продолжающейся гонке кибервооружений. Случаи решения GenAI CAPTCHA подчеркивают его потенциальное использование для вредоносных действий, создавая новые возможности для злоумышленников. Кроме того, возможности быстрой автоматизации GenAI позволяют ему быстро внедрять мощные инструменты, такие как программы-вымогатели как услуга и передовые методы взлома, повышая мастерство злоумышленников в режиме реального времени.

Возможности GenAI распространяются на создание убедительных дипфейков, открывающих новые горизонты в цифровых боях. Национальные государства включают эту тактику в свои стратегии кибервойны, используя вводящий в заблуждение контент для распространения пропаганды, влияния на общественное мнение и потенциального подстрекательства к насилию. Риск использования атак для высокочастотной торговли, манипулирования рынком или нарушения конфиденциальности усложняет ситуацию. Поскольку границы между реальностью и контентом, созданным искусственным интеллектом, размываются, доверие к цифровому контенту, коммуникациям и системам может подорвать.

Таргетинг на ГенИИ

Хотя системы GenAI предлагают расширенные возможности, они также становятся объектами состязательных атак. Для обеспечения безопасности этих сред необходимы надежные устройства, инфраструктура и строгие меры контроля доступа. Защита огромных объемов данных, которые системы GenAI используют для обучения, имеет решающее значение, поэтому необходимы методы классификации, шифрования, безопасного хранения и передачи данных.

Также важно отметить, что на системы GenAI могут влиять предвзятости в их обучающих данных, что может привести к несправедливым или дискриминационным решениям. Для смягчения этих предубеждений необходимо проведение регулярных аудитов, методов уменьшения предвзятости и этических руководящих принципов.

Ожидается, что рабочие нагрузки GenAI также будут генерировать огромные объемы новых данных. 88 процентов респондентов опроса GDPI заявили, что определенные наборы данных, созданные GenAI, будут особенно ценными и требуют строгой защиты и безопасности данных. Более того, поскольку ожидается, что рабочие нагрузки GenAI будут распределены между локальными и несколькими общедоступными облаками, эта защита должна будет охватывать гибридные и мультиоблачные среды, чтобы обеспечить должную защиту данных, где бы они ни находились.

Использование ГенИИ

Несмотря на эти проблемы, GenAI может стать незаменимым союзником в нашей борьбе с киберпреступниками. Поскольку более половины организаций, участвовавших в опросе GDPI, подтверждают, что они подверглись кибератакам за последние 12 месяцев, GenAI может помочь переломить ситуацию, предоставив инструменты прогнозирования для прогнозирования атак, помогая выявлять и устранять уязвимости, а также улучшать обнаружение угроз и реагирование на них путем анализа. огромные объемы данных для быстрого выявления аномальных закономерностей и поведения. Кроме того, это может помочь в проведении более предписывающего, персонализированного обучения для конечных пользователей, которое поможет исправить непреднамеренное поведение, например нажатие на небезопасные http-страницы или открытие подозрительной электронной почты.

GenAI также может помочь в восстановлении после масштабных кибератак, выявляя затронутые системы и данные и автоматизируя процесс восстановления из резервных копий. В целом, GenAI поможет компаниям не только повысить эффективность, но и восполнить дефицит навыков в области безопасности, освободив сотрудников службы безопасности, чтобы они могли сосредоточиться на более стратегических и сложных задачах.

Обоюдоострый меч

GenAI представляет собой палку о двух концах в сфере кибербезопасности. С одной стороны, это порождает новые проблемы, которые требуют от нас переосмысления и развития наших стратегий кибербезопасности и защиты наших больших языковых моделей (LLM). С другой стороны, он обещает улучшенное обнаружение угроз и реагирование на них, возможности прогнозирования и операционную эффективность. Ключ заключается в использовании его преимуществ при одновременном активном устранении рисков с помощью надежных мер безопасности, постоянного мониторинга, регулярных обновлений и исправлений, а также постоянно развивающегося подхода к конфиденциальности данных и этике.

Мы находимся на начальных этапах пути создания GenAI, и только 20 процентов опрошенных организаций находятся в Опрос Dell Generative AI Pulse установив решения GenAI. К опасениям, препятствующим внедрению, относятся опасения компрометации данных и интеллектуальной собственности, что приводит к нерешительности при внедрении. К основным препятствиям относятся безопасность, техническая сложность и управление данными. Преодоление этих проблем требует от организаций доступа к базовым наборам навыков в области защиты данных, кибербезопасности и развертывания GenAI, что имеет решающее значение для минимизации рисков и обеспечения быстрой окупаемости.

Перемещение вперед

В этой сложной ситуации Dell Technologies выступает в качестве комплексного поставщика решений и услуг, предлагая решения для платформ GenAI и предложения по кибербезопасности. Dell стремится помочь организациям уверенно преодолевать трудности, связанные с повышением уровня кибербезопасности. Использование преимуществ трех ключевых областей; уменьшение поверхности атаки, обнаружение и ответ и восстановления, Dell Technologies дает компаниям возможность двигаться вперед с помощью инновационных технологий, ускоряя их цифровые устремления. В эпоху цифровых технологий Dell Technologies и ее экосистема партнеров стремятся помочь нашим клиентам преодолеть разрыв между инновационными технологиями, обеспечивая при этом отказоустойчивость и устойчивость их сред в ближайшие годы.

Статья предоставлена ​​Dell Technologies.

Отметка времени:

Больше от Регистр