Čo potrebuješ vedieť
- Google začína varovať svojich zamestnancov pred odosielaním dôverných informácií o spoločnosti do vlastného softvéru AI Bard.
- Spoločnosť sa čoraz viac zaujíma o potenciál úniku údajov, pretože informácie do robota by sa mohli stať verejne známymi.
- Podobné opatrenia, ktoré sa viac zameriavajú na súkromie a bezpečnosť so softvérom AI, sa objavili v EÚ a spoločnosti Samsung.
Napriek Googlu rúti sa vpred aby si do svojho vyhľadávacieho nástroja zapiekla vlastného chatbota AI, spoločnosť sa teraz snaží odviesť zamestnancov od jeho používania. Podľa Reuters, spoločnosť so sídlom v Mountain View radí zamestnancom, aby sa zdržali vkladania dôverných materiálov do chatbota AI. Alphabet rozšíril toto upozornenie aj na počítačový kód.
Google Bard môže pomôcť programátorom s ich kódovaním, ale ako spoločnosť uvádza, spoločnosť povedala agentúre Reuters, že niekedy môže poskytnúť „nežiaduce“ návrhy. Navyše, kvôli tomu, ako fungujú chatboty ako Bard, existuje potenciál pre únik údajov. Nielenže môže váš rozhovor čítať človek (z akéhokoľvek takého dôvodu), ale tieto informácie môže prevziať iná AI ako súčasť svojho vzdelávacieho procesu a potom to rozptýli výmenou za ďalší dotaz, Reuters vysvetlil. Na druhej strane by to umožnilo zverejnenie veľmi citlivých údajov.
Spoločnosť má svoje vyhlásenie Bard FAQ stránka, ktorá hovorí používateľom, aby „nezahŕňali informácie, ktoré možno použiť na identifikáciu vás alebo iných osôb vo vašom Bardovi konverzácie." Na konci dňa však chatbot nedokáže pochopiť, aké dôverné firemné informácie resp kód vyzerá.
Google tiež informoval agentúru Reuters o svojej aktuálnej dopravnej zápche v EÚ, keď rieši otázky s Írskou komisiou pre ochranu údajov. Obávajú sa vplyvu spoločnosti Bard na súkromie používateľov, čo je odrazom iných obáv Európskej komisie.
Európska komisia a Google o návrhu rokujú od mája nové usmernenia pre softvér AI, považovaný za „pakt AI“. Tento dobrovoľný pakt by ovplyvnil európske a mimoeurópske krajiny, keďže Komisia sa snaží dostať pod kontrolu softvér AI a jeho potenciálne riziká pre súkromie.
Patria sem aj Spojené štáty, ktoré tiež spolupracujú s EÚ na vytvorení nového „minimálneho štandardu“. Obavy týkajúce sa umelej inteligencie stále rastú o potenciálnych nebezpečenstvách pre bezpečnosť osôb, ktoré využívajú chatbot.
Okrem toho spoločnosť Google odvádza svojich zamestnancov od odosielania dôverných informácií o spoločnosti a citlivých údajov do ozveny chatbotov AI čo urobil Samsung so svojimi pracovníkmi v máji. Kórejský OEM skutočne zakázal svojim zamestnancom používať chatboty AI, ako sú Bard a ChatGPT, po nehode s inžinierom spoločnosti Samsung. Do AI chatbotu odovzdali dôverný firemný kód, ktorý viedol k rýchlemu a náhlemu odpojeniu softvéru.
Počas Google I/O 2023 spoločnosť uviedla, že sa zameria na „zodpovednýso softvérom AI. Spoločnosť pre agentúru Reuters uviedla, že jej cieľom je byť transparentný, pokiaľ ide o obmedzenia technológie.