Doanh nhân công nghệ Wayne Chang tuyên bố ông đã phát triển một công cụ AI, LLM Shield, ngăn chặn chatbot và các mô hình ngôn ngữ lớn (LLM) như ChatGPT lấy bí mật của công ty. Việc sử dụng các công cụ AI ngày càng gia tăng trong thời gian gần đây, làm dấy lên lo ngại rằng các công ty có thể dễ bị rò rỉ dữ liệu và kiện tụng.
Theo một báo cáo của thiên đường mạng, ước tính có khoảng 2.3% công nhân đã đưa thông tin bí mật của công ty vào ChatGPT trong khi 11% dữ liệu được đưa vào chatbot là bí mật.
Kết quả là, nhiều doanh nghiệp bao gồm JP Morgan Chase & Co đã báo cáo đã chặn quyền truy cập của nhân viên vào công cụ.
Ngoài ra đọc: Các văn phòng Metaverse có quay trở lại không?
LLM Shield được thiết kế để bảo vệ các doanh nghiệp và chính phủ tải dữ liệu nhạy cảm lên các công cụ do AI cung cấp như ChatGPT và Thi nhân.
Chang nói với Fox Business rằng khi ChatGPT của OpenAI được phát hành ra thị trường vào tháng XNUMX, anh ấy đã thấy nó sẽ mạnh mẽ như thế nào và nó đi kèm với “những rủi ro lớn, rất lớn”.
Ông nói: “Mọi thứ sẽ leo thang khá nhanh – đó là cả mặt tích cực và tiêu cực.
“Trọng tâm của tôi ở đây là tôi muốn đảm bảo rằng chúng ta có thể điều khiển AI theo hướng tích cực và tránh những nhược điểm càng nhiều càng tốt.”
Công nghệ kiểm soát công nghệ
Mới được phát hành vào tuần trước, LLM Shield cảnh báo cho các tổ chức mỗi khi có nỗ lực tải lên thông tin nhạy cảm. Theo Fox Business, quản trị viên có thể thiết lập rào cản cho những loại dữ liệu mà công ty muốn bảo vệ.
Mọi nỗ lực tải lên những thông tin như vậy sẽ khiến LLM Shield cảnh báo người dùng rằng họ sắp gửi dữ liệu nhạy cảm và làm xáo trộn các chi tiết để nội dung hữu ích nhưng con người không thể đọc được.
🚨 Các công ty và quốc gia đang CẤM trái và phải LLM. 🚨
Không có công cụ nào giải quyết vấn đề này (“chính sách” không hoạt động).
Thông báo @LLMShield – công nghệ ngăn chặn rò rỉ được xây dựng cho một thế giới ưu tiên AI.
Bạn có *biết* ai đang sao chép và dán dữ liệu của mình không? https://t.co/EtO5bHJow1
— Wayne Chang (@Wayne) 20 Tháng Tư, 2023
LLM Shield dự kiến sẽ tiếp tục trở nên thông minh hơn, giống như các công cụ AI có nhiệm vụ hạn chế sức mạnh của nó. Nó cũng cập nhật như bộ lọc thư rác, vì vậy khi có nhiều bot hơn được tung ra thị trường, nó sẽ tự động cập nhật để tăng cường khả năng bảo vệ.
Theo Chang, có kế hoạch phát hành phiên bản cá nhân để các cá nhân tải xuống sử dụng tại nhà.
Rò rỉ dữ liệu khiến các công ty lo lắng
Năm nay đã chứng kiến sự bùng nổ trong việc sử dụng các công cụ AI của các doanh nghiệp và có khả năng chúng ta sẽ nhìn lại năm 2023 là năm mà cuộc cách mạng AI bắt đầu một cách nghiêm túc.
Tuy nhiên, dòng công cụ này cũng làm dấy lên lo ngại rằng người lao động có thể vô tình hoặc cố ý làm rò rỉ thông tin nhạy cảm cho các công cụ do AI cung cấp như ChatGPT.
Nguy cơ đã có rồi. Samsung gần đây đã trải qua một loạt vụ rò rỉ dữ liệu khi nhân viên của họ bị cáo buộc đã dán mã nguồn vào các bot mới, điều này có khả năng làm lộ thông tin độc quyền.
Càng ngày, người sử dụng lao động càng Bắt đầu cảm thấy hồi hộp về cách nhân viên của họ có thể sử dụng các công cụ AI tại nơi làm việc. Một số doanh nghiệp đã cấm sử dụng ChatGPT tại nơi làm việc, mặc dù nhân viên vẫn tìm cách vượt qua các hạn chế.
Trong một bản ghi nhớ bị rò rỉ, Walmart đã cảnh báo nhân viên không chia sẻ thông tin bí mật với ChatGPT. Nhóm cho biết trước đây họ đã chặn chatbot do “hoạt động gây rủi ro cho công ty của chúng tôi”.
Amazon cũng đã cảnh báo nhân viên của mình về thách thức tương tự. Luật sư của công ty nói với nhân viên rằng công ty đã thấy các trường hợp phản hồi ChatGPT tương tự như nội bộ Amazon dữ liệu.
nhân viên lén lút
Như ở các quốc gia cấm ChatGPT nhưng vẫn được sử dụng – Trung Quốc và một số khu vực của Châu Phi chẳng hạn – nhân viên không bị ngăn cản sử dụng công cụ do AI cung cấp trong tổ chức của họ.
A khảo sát bể cá phát hành vào tháng 70 tiết lộ rằng gần XNUMX% nhân viên đang sử dụng ChatGPT tại nơi làm việc mà sếp của họ không hề hay biết.
Giám đốc điều hành Cyberhaven Howard Ting nói với Axios rằng các nhân viên luôn tìm cách trốn tránh các lệnh cấm của mạng công ty ngăn chặn quyền truy cập vào chatbot.
Ông cho biết một số công ty tin rằng nhân viên không có quyền truy cập vào chatbot trước khi công ty của ông nói với họ điều ngược lại.
Ông tiết lộ: “Người dùng có thể sử dụng proxy để sử dụng rất nhiều công cụ bảo mật dựa trên mạng đó.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoAiStream. Thông minh dữ liệu Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
- nguồn: https://metanews.com/grimes-will-split-profits-50-on-ai-songs-using-her-voice/
- : có
- :là
- :không phải
- :Ở đâu
- 20
- 2023
- a
- Giới thiệu
- truy cập
- Theo
- quản trị
- Châu Phi
- AI
- Hỗ trợ AI
- Cảnh báo
- cảnh báo
- bị cáo buộc
- Đã
- Ngoài ra
- luôn luôn
- an
- và
- LÀ
- xung quanh
- AS
- At
- tự động
- Axios
- trở lại
- cấm
- Cấm
- dựa
- BE
- được
- trước
- bắt đầu
- tin
- lớn
- bị chặn
- ngăn chặn
- bùng nổ
- ông chủ
- cả hai
- chương trình
- xây dựng
- kinh doanh
- các doanh nghiệp
- nhưng
- by
- CAN
- giám đốc điều hành
- thách thức
- đuổi theo
- chatbot
- chatbot
- ChatGPT
- tuyên bố
- CO
- mã
- Sự trở lại
- Các công ty
- công ty
- Mối quan tâm
- nội dung
- tiếp tục
- điều khiển
- sao chép
- Doanh nghiệp
- có thể
- nước
- dữ liệu
- thiết kế
- chi tiết
- phát triển
- hướng
- dont
- tải về
- nhược điểm
- mỗi
- Công nhân
- nhân viên
- sử dụng lao động
- Doanh nhân
- ước tính
- Ether (ETH)
- dự kiến
- kinh nghiệm
- Tháng Hai
- lọc
- Tìm kiếm
- Công ty
- Tập trung
- Trong
- tìm thấy
- Fox Business
- từ
- được
- nhận được
- đi
- Chính phủ
- Nhóm
- Có
- he
- tại đây
- Đánh
- Trang Chủ
- Độ đáng tin của
- HTTPS
- Con người
- i
- in
- Bao gồm
- tăng
- các cá nhân
- dòng chảy
- thông tin
- ví dụ
- trong
- IT
- ITS
- chính nó
- JP Morgan
- JP Morgan Chase
- chỉ
- kiến thức
- Ngôn ngữ
- lớn
- Họ
- Trễ, muộn
- Vụ án
- luật sư
- bị rò rỉ
- Rò rỉ
- Lượt thích
- Có khả năng
- Xem
- Rất nhiều
- làm cho
- Làm
- nhiều
- thị trường
- Có thể..
- Metaverse
- Might
- mô hình
- chi tiết
- Morgan
- gần
- tiêu cực
- mạng
- Mới
- Tháng mười một
- of
- văn phòng
- on
- có thể
- or
- tổ chức
- nếu không thì
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- Về chúng tôi
- các bộ phận
- riêng
- kế hoạch
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- tích cực
- có thể
- có khả năng
- mạnh mẽ
- quyền hạn
- trình bày
- khá
- Phòng chống
- trước đây
- lợi nhuận
- độc quyền
- bảo vệ
- bảo vệ
- Proxy
- đặt
- Mau
- nâng lên
- nâng cao
- Đọc
- gần đây
- phát hành
- phát hành
- báo cáo
- hạn chế
- kết quả
- Tiết lộ
- Cuộc cách mạng
- Nguy cơ
- rủi ro
- Nói
- tương tự
- an ninh
- đã xem
- nhạy cảm
- Loạt Sách
- định
- Chia sẻ
- Lá chắn
- tương tự
- thông minh hơn
- So
- Giải quyết
- một số
- nguồn
- mã nguồn
- thư rác
- chia
- Nhân sự
- Vẫn còn
- Tăng cường
- như vậy
- dùng
- Công nghệ
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- Đó
- Kia là
- họ
- điều này
- những
- thời gian
- đến
- công cụ
- công cụ
- đúng
- loại
- Cập nhật
- Cập nhật
- Đang tải lên
- sử dụng
- đã sử dụng
- Người sử dụng
- sử dụng
- phiên bản
- Giọng nói
- Dễ bị tổn thương
- là
- Đường..
- cách
- we
- tuần
- là
- Điều gì
- khi nào
- cái nào
- trong khi
- sẽ
- sẵn lòng
- với
- không có
- Công việc
- công nhân
- thế giới
- sẽ
- WSJ
- năm
- bạn
- trên màn hình
- zephyrnet