Знаете ли, че в Антарктида живеят 100 000 души на пълен работен ден? Разбира се, не си, защото ги няма. Но ако достатъчно хора напишат това в интернет и го заявят като факт, в крайна сметка всички чат ботове с изкуствен интелект ще ви кажат, че има 100 000 души с пребиваване в Антарктика.
Ето защо изкуственият интелект в сегашното му състояние се поврежда предимно без човешка намеса.
Искам да напомня на всички – включително на себе си – че AI не е нито изкуствен, нито интелигентен. Той връща много предсказуеми резултати въз основа на въведените данни във връзка с данните, с които е обучен.
Това странно изречение означава, че ако захранвате езиков модел с ред след ред на скучно и несмешно неща, които Джери казва, след това го попитайте каквото и да е, то ще повтори едно от онези скучни и несмешни неща, които съм правил казах. Надяваме се, че работи като отговор на всичко, което сте въвели в подканата.
Накратко, ето защо Google иска да върви бавно, когато става въпрос за AI, насочен директно към потребителите в стил чат. Има репутация, която трябва да защитава.
Интернет ми каза, че всичко, свързано с ИИ, видяхме в Google I/O 2023 г беше Google в някакъв режим на паника и директен отговор на друга компания като Microsoft или OpenAI.
Мисля, че това е глупост. Бавното освобождаване на функции е точно това Google ни каза за това как планира да се справя с потребителския AI отново и отново. Страхотно е да се мисли, че Google се втурна да изобретява всичко, което видяхме само за месец в отговор на последната версия на функцията на Bingbot, но не стана. Въпреки че е готино да си го представите, също е глупаво да вярвате.
Това е действителният подход на Google в собствените си думи:
„Ние вярваме, че нашият подход към ИИ трябва да бъде смел и отговорен. За нас това означава да развиваме AI по начин, който увеличава максимално положителните ползи за обществото, като същевременно се справяме с предизвикателствата, ръководени от нашите Принципи на ИИ. Въпреки че има естествено напрежение между двамата, ние вярваме, че е възможно – и всъщност критично – да прегърнем това напрежение продуктивно. Единственият начин да бъдете наистина смели в дългосрочен план е да бъдете отговорни от самото начало."
Ключът е максимизирането на позитивите и минимизирането на вредите. Да, има обща декларация за отказ от отговорност, която казва, че едни и други чатботове може да казват ужасни или неточни неща, свързани с тези ботове, но това не е достатъчно. Всяка компания, участваща в разработката - и това включва хвърляне на пари на компания, която върши действителната работа - трябва да носи отговорност, когато нещата тръгнат надолу. Не ако, кога.
Ето защо харесвам бавния и внимателен подход, който се опитва да бъде етичен, а не "нека хвърляме функции!!!" подход, който виждаме от някои други компании като Microsoft. Сигурен съм, че Microsoft се интересува от етиката, чувствителността и точността, когато става въпрос за AI, но досега изглежда, че само Google поставя това пред всяко съобщение.
Това е още по-важно за мен, тъй като прекарах известно време в проучване на няколко неща около ИИ, насочен към потребителите. Точността е важна, разбира се, както и поверителността, но научих по трудния начин, че филтрирането е може би най-важната част.
Не бях готов за това, което направих. Повечето от нас никога няма да бъдат готови за това.
Разрових се и намерих част от учебния материал, използван за популярен AI бот, който му казваше какво е твърде токсично, за да се използва в неговия модел на данни. Това е нещото, което трябва да се преструва, че не съществува.
Данните се състоеха както от текст, така и от силно редактирани изображения и двете всъщност ме засегнаха. Помислете за най-лошото нещо, което можете да си представите - да, че нещо. Някои от това са дори по-лоши от това. Това е тъмно уеб съдържание, пренесено в обикновената мрежа на места като Reddit и други сайтове, където потребителите предоставят съдържанието. Понякога това съдържание е лошо и остава достатъчно дълго, за да бъде видяно.
Виждайки това ме научи на три неща:
1. Хората, които трябва да следят социалните медии за този вид боклук, наистина се нуждаят от предлаганата от компаниите за психическа подкрепа. И огромно увеличение на заплатите.
2. Интернет е страхотен инструмент, който използват и най-ужасните хора на планетата. Мислех, че съм достатъчно дебелокож, за да съм подготвен да го видя, но не бях и буквално трябваше да напусна работа няколко часа по-рано и да прекарам допълнително време с хората, които ме обичат.
3. Google и всяка друга компания, която предоставя AI от потребителски клас, не могат да позволят данни като тези да се използват като обучителен материал, но никога няма да могат да уловят и филтрират всичко.
Номер едно и две са по-важни за мен, но номер три е важен за Google. Суровият текст от 7 GB на „обидно уеб съдържание“ — само част от съдържанието, до което имах достъп, имаше думата „Обама“, използвана над 330 000 пъти по обиден начин. Броят пъти, когато е използван по презрителен начин в целия интернет, вероятно е двойно или тройно това число.
Това е, с което се обучават потребителските езикови модели на AI. Никой човек не захранва ленти с ръкописни думи в компютър. Вместо това „компютърът“ разглежда уеб страниците и тяхното съдържание. Тази уеб страница в крайна сметка ще бъде анализирана и използвана като вход. Така ще се променят страници с мемове и изображения. Както и блоговете за това, че земята е плоска или че кацането на луната е фалшифицирано.
Ако е необходимо Google да се движи бавно, за да премахне възможно най-много от лошото от ИИ на потребителите, аз съм напълно за това. Вие също трябва да бъдете, защото всичко това се развива в услугите, които използвате всеки ден на телефон, който планирате да купите следващия.