ChatGPT покорил мир после того, как OpenAI открыл его для тестирования 30 ноября 2022 года. Для отрасли, огрубевшей за годы в основном неудовлетворительных «инноваций» ИИ и машинного обучения, реакция была весьма показательной. Как и многие, кто воодушевлен его потенциалом, я считаю, что это, наконец, момент ясности того, насколько действительно революционным ИИ может быть для информационной безопасности.
Это также довольно отрезвляет, так как уже есть бесчисленное множество примеров того, как это меняет игру для черных шляп всех мастей. В одном из первый доказательство концепции, профессор Нью-Йоркского университета Брендан Долан-Гавитт использовал ChatGPT для эксплуатации уязвимости переполнения буфера. Другие примеры включают создание вредоносных программ с молниеносной скоростью и крафт убедительно, грамматически правильно фишинговые письма.
Советы команды вооружение ИИ в области кибербезопасности не новинка, но больше всего меня восхищает ChatGPT, так это его потенциал для закрытия самого большого пробела в информационной безопасности: отсутствия достаточного количества талантов как в широте, так и в глубине навыков кибербезопасности (т. е. специализаций). Чтобы проиллюстрировать это, вот три способа, которыми ChatGPT изменит информационную безопасность в 2023 году.
Развитие краудсорсинговой аналитики угроз
В течение достаточно долгого времени одним из святых граалей отрасли был краудсорсинг. разведка угроз. Перспектива связана со способностью видеть, что происходит в широком спектре компаний в рамках одной вертикальной отрасли. К сожалению, самым большим препятствием было отсутствие доверия между организациями для обмена разведданными.
Это проблема, которую пытается решить множество ISAC в разных отраслях — с неоднозначными результатами. В будущем центр обмена и анализа информации (ISAC) может использовать итерацию модели ChatGPT с ее интерфейсом на естественном языке и передавать ему данные журнала, представленные участниками ISAC, на основе неявного доверия внутри группы. Затем ISAC может использовать ChatGPT для сопоставления сетевых подключений, категорий вредоносных IP-адресов и доменов и аналогичного поведения. В результате может быть получен набор правил IDS, которые участники ISAC должны внедрить, чтобы защитить себя от угроз. ISAC также получит представление об общей степени риска отрасли, которую он представляет.
Делать больше с существующими ресурсами
Нестабильная экономика вынуждает службы безопасности приостанавливать прием на работу, чтобы выжимать из существующих ресурсов больше производительности. ChatGPT может быть чрезвычайно полезен здесь как множитель силы, который позволяет одному аналитику выполнять работу нескольких человек.
Универсалы и сотрудники начального уровня могут описать, что они видят в предупреждениях и обнаружениях, а затем попросить ChatGPT расшифровать их наблюдения, чтобы ускорить процесс сортировки. Конкретным примером является ежедневная деобфускация предполагаемого вредоносного кода, которая обычно занимает час или больше. Теперь это может быть выполняется за секунды.
ChatGPT также может трансформировать реакция на инцидент. Команда может использовать существующую модель и обработку естественного языка, чтобы передать все доступные данные об инциденте и описать обоснование потенциального реагирования. Затем ChatGPT мог бы немедленно доказать или опровергнуть теорию о компрометации. Сегодня для полного устранения инцидента требуется несколько дней работы руководителя службы реагирования на инциденты, инженера и нескольких аналитиков. Я могу предвидеть будущее, в котором процесс вообще не нуждается в аналитике.
Вывод игры в кошки-мышки с вредоносным ПО на новый уровень
Сегодня злоумышленники генерируют 100 миллионов новых образцов вредоносных программ в год. Поскольку все они требуют ручного кодирования, это по-прежнему ограниченная управляемая сумма для обнаружения сигнатур. Однако с помощью ChatGPT хакер может сказать: «Вот то, что я пытаюсь сделать, и вот на какой ОС я пытаюсь это сделать», и он может генерировать сотни тысяч итераций одной вредоносной программы.
Это будет означать, что модели ML механизмов обнаружения должны пересчитываться быстрее. Это намного сложнее, потому что они работают с гораздо большим набором данных. К счастью, ChatGPT ускорит процесс обратного проектирования и даст шанс борьбе с вредоносным ПО.
Например, серьезной проблемой обратного проектирования является работа с общим именем файла, которое не предоставляет необходимого контекста о том, где он был найден. Это требует гораздо больше ручной работы, чтобы определить систему, для которой она была построена. Есть небольшие изменения в двоичном ассемблере, которые повлияли на конечный результат — например, был ли он написан для 32-битной или 64-битной архитектуры? Система использует Little Endian или Big Endian? Ответы определяют направление, в котором вы читаете машинный язык (вперед или назад).
Все эти усилия требуют проб и ошибок, если у вас нет контекста. ChatGPT может выполнять эти итерации с молниеносной скоростью и предоставлять реверс-инженерам окончательный язык ассемблера и обрабатывать его оттуда. Они могут пойти дальше и попросить ChatGPT сообщить им, что, по его мнению, делает приложение — на естественном языке. Что еще более важно, ChatGPT может делать все это в масштабе, анализируя сотни тысяч бинарных образцов и предоставляя аналитические выводы.
Это также может помочь противостоять распространенным методам игры в кошки-мышки. Например, вредоносное ПО часто содержит методы предотвращения обратного проектирования, такие как вложенные циклы, которые значительно затрудняют отслеживание обратным инженером того, что происходит, и конечного состояния. ChatGPT может понять это намного быстрее, чем люди. Он также может анализировать генетический код вредоносного ПО и видеть, где может быть повторное использование кода, чтобы быстрее идентифицировать отпечаток автора.
Долгосрочные последствия
Всякий раз, когда появляются новые достижения в области ИИ, возникает неизбежная озабоченность по поводу того, заменит ли он людей и их работу. Я не верю, что ChatGPT сделает это возможным, но он сделает нас более влиятельными потребителями информации. Эффект умножения силы будет глубоким на всех уровнях. Я вижу, как директора по информационной безопасности передают ему набор информации о его реестре рисков, чтобы он возвращал политики и процедуры, планы реагирования на инциденты и многое другое — все с учетом их среды.
Хотя ChatGPT является лишь предварительным исследованием, я разделяю волнение моих коллег по отрасли в связи с его обещанием революционизировать работу специалистов по безопасности.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
- Источник: https://www.darkreading.com/vulnerabilities-threats/3-ways-chatgpt-will-change-infosec-in-2023
- 100
- 2022
- 2023
- a
- способность
- О компании
- через
- адреса
- авансы
- После
- против
- AI
- Все
- уже
- количество
- анализ
- аналитик
- Аналитики
- анализировать
- анализ
- и
- ответы
- Применение
- архитектура
- массив
- сборка
- автор
- доступен
- назад
- основанный
- потому что
- верить
- полезный
- между
- большой
- Крупнейшая
- Черный
- Пылающий
- ширина
- буфер
- переполнение буфера
- построенный
- категории
- Центр
- вызов
- шанс
- изменение
- изменения
- ChatGPT
- ясность
- закрытие
- код
- Кодирование
- коллеги
- как
- Общий
- Компании
- сложный
- скомпрометированы
- Беспокойство
- Связь
- Потребители
- содержит
- контекст
- может
- Краудсорсинг
- Информационная безопасность
- ежедневно
- данным
- набор данных
- Дней
- расшифровывать
- глубина
- описывать
- обнаружение
- Определять
- направление
- дело
- доменов
- экономику
- эффект
- уровнях
- позволяет
- инженер
- Проект и
- Инженеры
- Двигатели
- начального уровня
- средах
- ошибка
- Эфир (ETH)
- пример
- Примеры
- возбужденный
- Возбуждение
- пьянит
- существующий
- Эксплуатировать
- чрезвычайно
- быстрее
- кормление
- бороться
- дать отпор
- борьба
- фигура
- Файл
- окончательный
- в заключение
- отпечаток пальца
- Форс-мажор
- К счастью
- вперед
- найденный
- от
- полностью
- далее
- в будущем
- Gain
- игра
- разрыв
- порождать
- Дайте
- будет
- величайший
- группы
- хакер
- происходить
- помощь
- помощь
- здесь
- Наем
- Как
- Однако
- HTTPS
- Людей
- Сотни
- определения
- немедленно
- осуществлять
- in
- инцидент
- реакция на инцидент
- включают
- промышленности
- промышленность
- неизбежный
- информация
- информационная безопасность
- INFOSEC
- инновации
- понимание
- размышления
- пример
- Интеллекта
- Интерфейс
- IP
- IP-адреса
- IT
- итерация
- итерации
- работа
- Джобс
- Сохранить
- Отсутствие
- язык
- в значительной степени
- больше
- вести
- изучение
- уровни
- молния
- Скорость молнии
- мало
- машина
- обучение с помощью машины
- сделать
- вредоносных программ
- руководство
- ручная работа
- многих
- с пометкой
- миллиона
- небольшая
- смешанный
- ML
- модель
- ухода
- момент
- БОЛЕЕ
- самых
- с разными
- имя
- натуральный
- Естественный язык
- Обработка естественного языка
- необходимо
- Необходимость
- сеть
- Новые
- NYU
- ONE
- OpenAI
- открытый
- организации
- OS
- Другое
- общий
- Люди
- кусок
- Планы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- сборах
- потенциал
- мощный
- давление
- предварительный просмотр
- Проблема
- Процедуры
- процесс
- обработка
- производит
- производительность
- Профессор
- обещание
- для защиты
- Доказывать
- обеспечивать
- Полагая
- быстро
- RE
- реакции
- Читать
- зарегистрироваться
- замещать
- представляет
- требовать
- требуется
- исследованиям
- Полезные ресурсы
- ответ
- результат
- Итоги
- возвращают
- обратный
- революционный
- революционизировать
- Снижение
- условиями,
- Run
- Шкала
- безопасность
- видя
- набор
- несколько
- Поделиться
- разделение
- должен
- значительный
- аналогичный
- одинарной
- навыки
- РЕШАТЬ
- некоторые
- конкретный
- скорость
- выжимать
- Персонал
- Область
- стебли
- По-прежнему
- буря
- полосы
- представленный
- Успешно
- такие
- достаточный
- перегружать
- подозреваемый
- система
- с учетом
- взять
- принимает
- Талант
- команда
- снижения вреда
- Тестирование
- Советы команды
- мир
- их
- сами
- Там.
- Думает
- тысячи
- угроза
- угрозы
- три
- Через
- время
- в
- сегодня
- трек
- Transform
- сортировка
- суд
- Доверие
- типично
- Неопределенный
- us
- использование
- уязвимость
- способы
- Что
- Что такое
- будь то
- , которые
- КТО
- широкий
- будете
- в
- Работа
- работает
- Мир
- бы
- письмо
- письменный
- год
- лет
- YouTube
- зефирнет