מה שאתה צריך לדעת
- גוגל הוציאה את אחד המהנדסים שלה לחופשה בתשלום לאחר שהעלתה חששות לגבי אתיקה של AI בחברה.
- בלייק למויין טען שמערכת הצ'אטבוט LaMDA של גוגל צברה רמת תפיסה הדומה לבני אדם.
- גוגל טוענת שאין ראיות לגיבוי קביעותיו של Lemoine.
מהנדס גוגל שעובד בארגון Responsible AI של החברה הוצא לחופשה בתשלום לאחר שהעלה חשש שמערכת הצ'אטבוטים של LaMDA הפכה לחושנית.
בלייק למויין טען ש-LaMDA (מודל שפה ליישומי דיאלוג) חושב כמו "ילד בן 7 ו-8 שבמקרה יודע פיזיקה", לפי הוושינגטון פוסט. גוגל הציגה את LaMDA באירוע ה-I/O שלה בשנה שעברה לעשות Google Assistant יותר שיחה.
בסתיו שעבר, Lemoine בדק אם הבינה המלאכותית השתמשה בדיבור מפלה או שטנה. לאחר שיחתו עם למד"א, המהנדס הגיע למסקנה שמדובר בהרבה יותר מאשר מערכת ליצירת צ'טבוטים. מאוחר יותר הוא הסלים את חששותיו למנהלי גוגל באפריל באמצעות מסמך המכיל תמליל של שיחותיו עם למד"א.
Lemoine אמר שהוא שוחח עם למד"א על נושאים שונים, כמו זכויות, דת וחוקי הרובוטיקה. ה-AI תיאר את עצמו כ"אדם" מכיוון שיש לו "רגשות, רגשות וחוויה סובייקטיבית". גם Lemoine אמר למד"א רוצה "לתת עדיפות לרווחת האנושות" ו"להכיר כעובד של גוגל ולא כעובד תכונה."
אתה יכול לקרוא את תמליל השיחה המלא באמצעות פוסט בינוני של Lemoine, אותו פרסם לאחר שמנהלי גוגל דחו את טענותיו.
ענקית החיפוש הכחישה את טענותיו של Lemoine. בהצהרה לאנדרואיד סנטרל, דובר גוגל בריאן גבריאל אמר שהחברה "לא מודעת לכך שמישהו אחר יוצר את התחום הרחב. קביעות, או אנתרופומורפיזציה של למד"א, כפי שעשה בלייק", בהתייחס למאות החוקרים והמהנדסים ששוחחו עם למד"א.
"הצוות שלנו - כולל אתיקאים וטכנולוגים - בדק את החששות של בלייק לפי עקרונות הבינה המלאכותית שלנו והודיע לו שהראיות אינן תומכות בטענותיו", הוסיף גבריאל.
דובר גוגל גם ציין את "המחקר והבדיקות הקפדניות" כמו גם את סדרת 11 סקירות עקרונות הבינה המלאכותית שעברה על ידי LaMDA. גבריאל אמר שההערכות הללו "מבוססות על מדדי מפתח של איכות, בטיחות ויכולת המערכת לייצר הצהרות המבוססות על עובדות".
"כמובן, חלק בקהילת הבינה המלאכותית הרחבה יותר שוקלים את האפשרות לטווח ארוך של בינה מלאכותית או כללית, אבל זה לא הגיוני לעשות זאת על ידי אנתרופומורפיזציה של מודלי השיחה של ימינו, שאינם רגישים", הוא אמר. "מערכות אלה מחקות את סוגי ההחלפות שנמצאו במיליוני משפטים, ויכולות לרפרף על כל נושא פנטסטי - אם אתה שואל איך זה להיות דינוזאור גלידה, הם יכולים ליצור טקסט על נמס ושאג וכדומה עַל."
Lemoine הוצאה לאחר מכן לחופשה מנהלית בתשלום בגין הפרת מדיניות הסודיות של גוגל, כך מדווח The Post. על פי הדיווחים, הוא גם ביקש לשכור עורך דין לייצג את למד"א ואף שוחח עם חברי ועדת המשפט בבית הנבחרים על הפעילות הלא אתית לכאורה של גוגל.
עם זאת, ההשעיה עשויה לזמן בדיקה של ה-AI של גוגל.