S.U.A., Marea Britanie și alte țări, cerneală „securizată prin design” orientări AI

Republicat de Platon

Urmaritori: 0

Statele Unite ale Americii, Marea Britanie, Australia și alte 15 țări au lansat linii directoare globale pentru a ajuta la protejarea modelelor AI de a fi modificate, îndemnând companiile să-și facă modelele „securizate prin proiectare”.

Pe 26 noiembrie, cele 18 țări au lansat un document de 20 de pagini document subliniind modul în care firmele de inteligență artificială ar trebui să își gestioneze securitatea cibernetică atunci când dezvoltă sau folosesc modele de inteligență artificială, deoarece au susținut că „securitatea poate fi adesea un aspect secundar” în industria cu ritm rapid.

Orientările au constat în cea mai mare parte în recomandări generale, cum ar fi menținerea unei leașe strânse asupra infrastructurii modelului AI, monitorizarea oricărei modificări a modelelor înainte și după lansare și instruirea personalului cu privire la riscurile de securitate cibernetică.

Vești emoționante! Ne-am unit forțele cu @NCSC și 21 de parteneri internaționali pentru a dezvolta „Linii directoare pentru dezvoltarea sistemelor AI securizate”! Aceasta este o colaborare operațională în acțiune pentru IA securizată în era digitală: https://t.co/DimUhZGW4R #AISafety #SecureByDesign pic.twitter.com/e0sv5ACiC3

— Agenția de securitate cibernetică și de securitate a infrastructurii (@CISAgov) Noiembrie 27, 2023

Nu au fost menționate anumite probleme controversate în spațiul AI, inclusiv ce posibile controale ar trebui să existe în jurul utilizării modele generatoare de imagini și falsuri profunde sau metodele de colectare a datelor și utilizarea în modelele de instruire - o problemă care este văzută mai multe firme de IA au dat în judecată privind reclamațiile privind încălcarea drepturilor de autor.

„Ne aflăm într-un punct de inflexiune în dezvoltarea inteligenței artificiale, care poate fi cea mai importantă tehnologie a timpului nostru”, a spus secretarul american al Securității Interne, Alejandro Mayorkas. a spus într-o declarație. „Securitatea cibernetică este cheia pentru construirea de sisteme AI care sunt sigure, sigure și de încredere.”

Orientările urmează alte inițiative guvernamentale care influențează AI, inclusiv guverne și firme de AI întâlnire pentru un Summit de Siguranță AI la Londra, la începutul acestei luni, pentru a coordona un acord privind dezvoltarea IA.

Între timp, Uniunea Europeană este dezvăluirea detaliilor a Actului său AI, care va supraveghea spațiul, iar președintele american Joe Biden a emis un ordin executiv în octombrie care stabilește standarde pentru siguranța și securitatea AI – deși ambele au văzut respingere din industria AI susținând că ar putea înăbuși inovația.

Alți co-semnatari ai noilor linii directoare „securizate prin proiectare” includ Canada, Franța, Germania, Israel, Italia, Japonia, Noua Zeelandă, Nigeria, Norvegia, Coreea de Sud și Singapore. Firmele AI, inclusiv OpenAI, Microsoft, Google, Anthropic și Scale AI, au contribuit, de asemenea, la dezvoltarea ghidurilor.

Magazine: AI Eye: utilizări reale pentru AI în cripto, rivalul Google GPT-4, avantaj AI pentru angajații răi