Khả năng phục hồi mạng trong kỷ nguyên trí tuệ nhân tạo

Được xuất bản lại bởi Plato

Người theo dõi: 0

Nội dung đối tác Có thể có một chút lạc quan phi lý ở một số góc CNTT liên quan đến khả năng GenAI có thể nghiêng sân chơi phòng thủ mạng theo hướng có lợi cho họ.

Theo GDPI của Dell Technologies 2024 khảo sát, 52% số người được hỏi tin rằng GenAI ban đầu sẽ mang lại lợi thế cho các tổ chức bảo vệ chống lại các mối đe dọa trên mạng, trong khi chỉ có 27% cho rằng nó sẽ mang lại lợi ích cho tội phạm mạng.

Tuy nhiên, nên thận trọng. Các chuyên gia, bao gồm cả CTO của Dell Technologies, John Roese, cho rằng tội phạm mạng có thể tận dụng GenAI sớm hơn các doanh nghiệp, mang lại cho họ lợi thế quyết định trong cuộc chạy đua vũ trang mạng đang diễn ra. Các trường hợp GenAI giải CAPTCHA nêu bật tiềm năng sử dụng của nó cho các hoạt động độc hại, tạo cơ hội mới cho những kẻ xấu. Hơn nữa, khả năng tự động hóa nhanh chóng của GenAI cho phép nó nhanh chóng kết hợp các công cụ mạnh mẽ như ransomware dưới dạng dịch vụ và các kỹ thuật hack tiên tiến, nâng cao năng lực của các tác nhân đe dọa trong thời gian thực.

Khả năng của GenAI mở rộng đến việc tạo ra các tác phẩm giả mạo sâu đầy thuyết phục, đưa ra một biên giới mới trong chiến đấu kỹ thuật số. Các quốc gia đang kết hợp các chiến thuật này vào chiến lược chiến tranh mạng của mình, tận dụng nội dung lừa đảo để tuyên truyền, gây ảnh hưởng đến dư luận và có khả năng kích động bạo lực. Nguy cơ các cuộc tấn công được sử dụng để giao dịch tần suất cao, thao túng thị trường hoặc vi phạm quyền riêng tư cá nhân sẽ làm tăng thêm sự phức tạp. Khi ranh giới giữa thực tế và nội dung do AI tạo ra trở nên mờ nhạt, niềm tin vào nội dung kỹ thuật số, thông tin liên lạc và hệ thống có thể bị xói mòn.

Nhắm mục tiêu GenAI

Mặc dù các hệ thống GenAI cung cấp các khả năng nâng cao nhưng chúng cũng trở thành mục tiêu cho các cuộc tấn công thù địch. Việc bảo mật các môi trường này đòi hỏi các thiết bị, cơ sở hạ tầng đáng tin cậy và các biện pháp kiểm soát truy cập mạnh mẽ. Việc bảo vệ lượng dữ liệu khổng lồ mà các hệ thống GenAI dựa vào để học tập là rất quan trọng, đòi hỏi phải có kỹ thuật phân loại, mã hóa, lưu trữ an toàn và truyền dữ liệu.

Điều quan trọng cần lưu ý là hệ thống GenAI có thể bị ảnh hưởng bởi những thành kiến trong dữ liệu đào tạo của chúng, điều này có thể dẫn đến các quyết định không công bằng hoặc phân biệt đối xử. Cần thực hiện các cuộc kiểm toán thường xuyên, các kỹ thuật giảm thiểu sai lệch và các hướng dẫn về đạo đức để giảm bớt những sai lệch này.

Khối lượng công việc của GenAI cũng được kỳ vọng sẽ tạo ra lượng lớn dữ liệu mới. 88% số người trả lời khảo sát GDPI cho biết một số bộ dữ liệu do GenAI tạo ra sẽ đặc biệt có giá trị, yêu cầu bảo vệ và bảo mật dữ liệu nghiêm ngặt. Hơn nữa, với khối lượng công việc GenAI dự kiến sẽ được phân phối trên nhiều đám mây công cộng tại chỗ và nhiều đám mây công cộng, biện pháp bảo vệ này sẽ cần phải mở rộng trên các môi trường kết hợp, đa đám mây để đảm bảo dữ liệu được bảo vệ đúng cách ở bất cứ nơi nào nó cư trú.

Khai thác GenAI

Bất chấp những thách thức này, GenAI có thể là đồng minh không thể thiếu trong cuộc chiến chống tội phạm mạng của chúng ta. Với hơn một nửa số tổ chức trong cuộc khảo sát GDPI xác nhận rằng họ đã trải qua một cuộc tấn công mạng trong 12 tháng qua, GenAI có thể giúp xoay chuyển tình thế bằng cách cung cấp các công cụ dự đoán để đoán trước các cuộc tấn công, giúp xác định và vá các lỗ hổng cũng như cải thiện khả năng phát hiện và ứng phó với mối đe dọa bằng cách phân tích lượng lớn dữ liệu một cách nhanh chóng để xác định các mô hình và hành vi bất thường. Ngoài ra, nó có thể hỗ trợ đào tạo theo quy định, cá nhân hóa hơn cho người dùng cuối để giúp khắc phục các hành vi ngoài ý muốn, như nhấp vào các trang http không an toàn hoặc mở email đáng ngờ.

GenAI cũng có thể giúp phục hồi sau các cuộc tấn công mạng trên quy mô lớn bằng cách xác định các hệ thống và dữ liệu bị ảnh hưởng, đồng thời tự động hóa quá trình khôi phục từ bản sao lưu. Nhìn chung, GenAI sẽ giúp các công ty không chỉ tăng hiệu quả mà còn giúp tăng thêm khoảng cách về kỹ năng bảo mật bằng cách giải phóng nhân viên an ninh để tập trung vào các nhiệm vụ chiến lược và phức tạp hơn.

Một con dao hai lưỡi

GenAI đại diện cho con dao hai lưỡi cho an ninh mạng. Một mặt, nó mang đến những thách thức mới đòi hỏi chúng ta phải suy nghĩ lại và phát triển các chiến lược an ninh mạng cũng như bảo vệ các mô hình ngôn ngữ lớn (LLM) của mình. Mặt khác, nó hứa hẹn cải thiện khả năng phát hiện và ứng phó với mối đe dọa, khả năng dự đoán và hiệu quả hoạt động. Chìa khóa nằm ở việc tận dụng các lợi ích của nó trong khi chủ động giải quyết các rủi ro, thông qua các biện pháp bảo mật mạnh mẽ, giám sát liên tục, cập nhật và vá lỗi thường xuyên cũng như cách tiếp cận ngày càng phát triển đối với quyền riêng tư và đạo đức dữ liệu.

Chúng tôi đang ở giai đoạn đầu của hành trình GenAI, chỉ có 20% tổ chức được khảo sát ở Khảo sát xung AI của Dell Generative đã thiết lập được giải pháp GenAI. Những lo ngại cản trở việc áp dụng bao gồm lo ngại về việc xâm phạm dữ liệu và sở hữu trí tuệ, dẫn đến sự do dự trong việc thực hiện. Các rào cản hàng đầu liên quan đến bảo mật, độ phức tạp kỹ thuật và quản trị dữ liệu. Vượt qua những thách thức này đòi hỏi các tổ chức phải tiếp cận các bộ kỹ năng thiết yếu trong bảo vệ dữ liệu, an ninh mạng và triển khai GenAI, những kỹ năng quan trọng để giảm thiểu rủi ro và đảm bảo thời gian định giá nhanh chóng.

Tiến về phía trước

Trong việc điều hướng bối cảnh phức tạp này, Dell Technologies đóng vai trò là nhà cung cấp dịch vụ và giải pháp toàn diện, cung cấp các giải pháp cho nền tảng GenAI và các dịch vụ an ninh mạng. Dell cam kết giúp các tổ chức tự tin vượt qua sự phức tạp trong việc nâng cao tư thế an ninh mạng của họ. Tận dụng ba lĩnh vực trọng điểm; giảm bề mặt tấn công, phát hiện và phản ứng và phục hồi, Dell Technologies trao quyền cho các doanh nghiệp tiến lên phía trước với các công nghệ tiên tiến, thúc đẩy khát vọng kỹ thuật số của họ. Khi kỷ nguyên kỹ thuật số mở ra, Dell Technologies và hệ sinh thái đối tác cam kết giúp khách hàng thu hẹp khoảng cách giữa các công nghệ đổi mới đồng thời đảm bảo khả năng phục hồi và bền vững của môi trường trong những năm tới.

Bài viết đóng góp của Dell Technologies.