Co potřebuješ vědět
- Google se spolu s dalšími šesti společnostmi dobrovolně zavázal prosazovat bezpečnostní postupy AI.
- Závazek společností bude trvat, získá si důvěru veřejnosti, silnější zabezpečení a veřejné podávání zpráv o jejich systémech.
- To odráží podobnou spolupráci, jakou má Google s EU, nazvanou „Pakt AI“.
Google oznamuje že se spolu s dalšími šesti předními společnostmi zabývajícími se umělou inteligencí spojuje, aby prosazovaly „odpovědné postupy ve vývoji umělé inteligence“. Google, Amazon, Antropický, Inflection, Meta, Microsoft a OpenAI se všechny dobrovolně zavázaly k těmto novým pokročilým postupům a v červenci se v Bílém domě setkávají s Biden-Harrisovou administrativou. 21.
Jedním z největších závazků je pravděpodobně budování důvěry v AI nebo, jak uvedl Bílý dům ve svém informační list, "získání důvěry veřejnosti." Google cituje Principy AI vytvořila již v roce 2018, aby pomohla lidem porozumět jejímu softwaru pro umělou inteligenci a cítit se v něm pohodlně.
Nicméně, jak uvádí Biden-Harris Administration, společnosti se musí zavázat k vývoji způsobů, jak dát uživatelům vědět, kdy je obsah generován AI. Několik způsobů zahrnuje vodoznaky, metadata a další nástroje, které uživatelům dají vědět, odkud něco, například obrázek, pochází.
Tyto společnosti mají také za úkol zkoumat rizika, která systémy umělé inteligence pro společnost představují, jako je „škodlivá zaujatost, diskriminace a ochrana soukromí“.
Společnosti musí dále o svých systémech umělé inteligence neustále veřejně informovat, takže každý, včetně vláda a další v tomto odvětví mohou pochopit, kde se nacházejí v bezpečnostním a společenském rizikovém faktoru úroveň. Na seznamu závazků je zahrnut vývoj umělé inteligence, která pomůže řešit zdravotní problémy a změny životního prostředí.
Bezpečnost je dalším horkým tématem, a jak uvádí informační list Bílého domu, všech sedm společností má investovat v opatřeních kybernetické bezpečnosti a „protokolech zasvěcených hrozeb“ k ochraně proprietárních a nevydaných modelových vah. Poslední jmenovaný byl považován za nejdůležitější při vývoji správných bezpečnostních protokolů pro systémy AI.
Společnosti jsou také povinny usnadnit zjišťování třetími stranami a hlásit jakékoli zranitelnosti ve svých systémech.
To vše musí být provedeno předtím, než společnosti budou moci zavést nové systémy umělé inteligence pro veřejnost, uvádí Bílý dům. Těchto sedm společností musí před vydáním provést interní a externí bezpečnostní testy svých systémů AI. Kromě toho je třeba sdílet informace napříč průmyslem, vládou, občanskou společností a akademickou obcí o osvědčených postupech pro bezpečnost a dalších podobných hrozbách pro jejich systémy.
Bezpečnost a pohodlí s umělou inteligencí jsou vyžadovány, jak společnosti jako Google varovaly své zaměstnance buďte opatrní při používání AI chatbotů kvůli bezpečnostním obavám. Není to první případ takového strachu, jaký měl Samsung docela vyděšený, když inženýr omylem předložil důvěrný firemní kodex chatbotovi s umělou inteligencí.
A konečně, Google se dobrovolně zavázal k pokroku v bezpečných praktikách umělé inteligence spolu s několika dalšími, a to dva měsíce poté, co se připojil k EU kvůli podobné dohodě. Společnost spolupracovala na vytvoření „Pakt AI“, nový soubor pokynů společnosti v regionu byly vyzvány, aby dobrovolně souhlasily s tím, že se chopí softwaru AI, než to zajde příliš daleko.