Ce trebuie sa stii
- Google, împreună cu alte șase companii, s-au angajat în mod voluntar să promoveze practicile de siguranță AI.
- Angajamentul companiilor se va întinde, câștigând încrederea publicului, o securitate mai puternică și raportarea publică despre sistemele lor.
- Acest lucru este ecoul unei colaborări similare pe care Google o are cu UE, numită „Pactul AI”.
Google Anunțuri că, împreună cu alte șase companii de IA de top, se unește pentru a promova „practici responsabile în dezvoltarea inteligenței artificiale”. Google, Amazon, Antropic, Inflection, Meta, Microsoft și OpenAI s-au angajat cu toții în mod voluntar față de aceste noi practici avansate și se întâlnesc cu Administrația Biden-Harris la Casa Albă în iulie 21.
Unul dintre cele mai mari angajamente, fără îndoială, este construirea încrederii în AI sau, așa cum a afirmat Casa Albă în documentul său Fișa, „câștigând încrederea publicului”. Google citează Principiile AI a creat în 2018 pentru a ajuta oamenii să înțeleagă și să se simtă confortabil în jurul software-ului său de inteligență artificială.
Cu toate acestea, după cum afirmă Administrația Biden-Harris, companiile trebuie să se angajeze să dezvolte modalități de a informa utilizatorii când conținutul este generat de inteligență artificială. Câteva modalități includ filigranare, metadate și alte instrumente pentru a informa utilizatorii de unde provine ceva, cum ar fi o imagine.
Aceste companii sunt, de asemenea, însărcinate să cerceteze riscurile pe care le prezintă sistemele AI pentru societate, cum ar fi „prejudecățile dăunătoare, discriminarea și protejarea vieții private”.
În continuare, companiile trebuie să raporteze în mod continuu despre sistemele lor AI în mod public, astfel încât toată lumea, inclusiv Guvernul și alții din industrie, pot înțelege unde se află în ceea ce privește un factor de risc de securitate și societal nivel. Dezvoltarea AI pentru a ajuta la rezolvarea problemelor de sănătate și a schimbărilor de mediu este inclusă pe lista de angajamente.
Securitatea este un alt subiect fierbinte și, după cum afirmă fișa informativă a Casei Albe, toate cele șapte companii trebuie să investească în măsuri de securitate cibernetică și „protocoale de amenințări interne” pentru a proteja ponderile modelelor proprietare și nelansate. Acesta din urmă a fost considerat a fi cel mai important atunci când se dezvoltă protocoalele de securitate potrivite pentru sistemele AI.
Companiile trebuie, de asemenea, să faciliteze descoperirea terților și să raporteze orice vulnerabilități în sistemele lor.
Toate acestea trebuie făcute înainte ca companiile să poată lansa noi sisteme AI pentru public, afirmă Casa Albă. Cele șapte companii trebuie să efectueze teste de securitate interne și externe ale sistemelor lor AI înainte de lansare. În plus, informațiile trebuie partajate în industrie, guvern, societate civilă și mediul academic despre cele mai bune practici pentru siguranță și alte astfel de amenințări la adresa sistemelor lor.
Siguranța și confortul cu inteligența artificială sunt necesare, așa cum companii precum Google și-au avertizat angajații fii prudent atunci când utilizați chatbot-uri AI din cauza problemelor de securitate. Acesta nu este primul caz de teamă, deoarece Samsung a avut destulă frică când un inginer a depus din greșeală cod confidențial al companiei la un chatbot AI.
În cele din urmă, Google s-a angajat în mod voluntar să promoveze practicile sigure de inteligență artificială, împreună cu alte câteva, vine la două luni după ce s-a alăturat UE pentru un acord similar. Compania a colaborat la crearea „Pactul AI”, un nou set de linii directoare companiilor din regiune au fost îndemnate să accepte în mod voluntar să se ocupe de software-ul AI înainte de a merge prea departe.