גוגל עושה הרבה דברים מטופשים. כל תאגידי הענק זהים בהקשר הזה. אבל זה דורש מאמץ מיוחד לעשות משהו נורא באמת. שם נכנס פרויקט Nimbus של גוגל על הספקטרום.
Project Nimbus הוא מאמץ משותף של גוגל, אמזון וממשלת ישראל המספק יכולות מעקב עתידניות באמצעות שימוש במודלים מתקדמים של למידת מכונה. תרצו או לא, זה חלק מהעתיד של ביטחון המדינה, ולא נורא יותר מפרויקטים דומים רבים אחרים. רבים מאיתנו אפילו משתמשים בטכנולוגיה דומה בתוך ובסביבת הבתים שלנו.
היכן שהדברים הופכים אפלים ומכוערים זה מה שגוגל אומרת על היכולות של Project Nimbus באמצעות הטכנולוגיה של החברה:
מסמכי ההדרכה של Nimbus מדגישים את "יכולות הזיהוי של 'פנים, ציוני דרך, רגשות' של ה-Cloud Vision API של גוגל", ובאימון אחד של Nimbus סמינר מקוון, מהנדס גוגל אישר עבור לקוח ישראלי כי ניתן יהיה "לעבד נתונים דרך נימבוס כדי לקבוע אם מישהו שֶׁקֶר".
כן, החברה שנתנה לנו את האלגוריתמים הגרועים להחריד של YouTube רוצה כעת למכור אלגוריתמים כדי לקבוע אם מישהו משקר למשטרה. תן לזה לשקוע. זה מדע ש מיקרוסופט נטשה בגלל הבעיות הטבועות בו.
למרבה הצער, גוגל לא מסכים עד כדי כך מתנקם באנשים בחברה שמדברים נגד זה.
אין סיבה טובה לספק סוג זה של טכנולוגיה לאף ממשלה בכל קנה מידה.
אני לא הולך להעמיק יותר מדי בפוליטיקה שמשחקת כאן, אבל כל הפרויקט תוכנן כך שממשלת ישראל תוכל להסתיר את מה שהיא עושה. לדברי ג'ק פולסון, לשעבר ראש אבטחה עבור Google Enterprise, אחת המטרות העיקריות של Project Nimbus היא "מניעת ממשלת גרמניה מלבקש נתונים הנוגעים לצבא ההגנה לישראל עבור בית הדין הפלילי הבינלאומי". ל היירוט. (אומרים שישראל מבצעת פשעים נגד האנושות נגד פלסטינים, לפי פרשנותם של חלק מהאנשים לחוקים).
Really, though, it doesn't matter how you feel about the conflict between Israel and Palestine. אין סיבה טובה לספק סוג זה של טכנולוגיה לאף ממשלה בכל קנה מידה. פעולה זו הופכת את גוגל רוע.
היכולות לכאורה של Nimbus מפחידות, גם אם ה-Cloud Vision API של גוגל היה נכון ב-100%, ב-100% מהמקרים. תארו לעצמכם מצלמות גוף משטרתיות שמשתמשות בבינה מלאכותית כדי לעזור להחליט אם להאשים ולעצור אתכם או לא. הכל הופך מפחיד כשחושבים באיזו תדירות מערכות ראיית למידת מכונה משבשות דבריםאבל.
זו לא רק בעיה של גוגל. כל מה שצריך לעשות הוא להסתכל על ניהול תוכן ב-YouTube, בפייסבוק או בטוויטר. 90% מהעבודה הראשונית נעשית על ידי מחשבים המשתמשים באלגוריתמים של מתון שמקבלים החלטות שגויות בתדירות גבוהה מדי. עם זאת, פרויקט נימבוס יעשה יותר מאשר רק למחוק את התגובה המעצבנת שלך - זה עלול לעלות לך בחייך.
לאף חברה אין עסק המספק סוג זה של AI עד שהטכנולוגיה הבשילה למצב שבו היא לעולם לא טועה, וזה לעולם לא יקרה.
תראה, אני בעד למצוא את הרעים ולעשות משהו לגביהם בדיוק כמו כולם. אני מבין שאכיפת החוק, בין אם משטרה מקומית או צה"ל, היא רוע הכרחי. שימוש ב-AI לשם כך הוא מְיוּתָר רוע.
אני לא אומר שגוגל צריכה פשוט לדבוק בכתיבת התוכנה שמפעילה את טלפונים שאתה אוהב ולא מנסה להסתעף. אני רק אומר שיש דרך נכונה ודרך שגויה - גוגל בחרה כאן בדרך הלא נכונה, ועכשיו היא תקועה כי תנאי ההסכם אינם מאפשרים ל-Google להפסיק להשתתף.
אתה צריך לגבש דעות משלך ולעולם לא להקשיב למישהו באינטרנט שיש לו ארגז סבון. אבל כדאי גם להיות מעודכן כשחברה שנוסדה על עיקרון של "אל תהיו רשע" הופכת מעגל והופכת לרוע שהיא הזהירה אותנו מפניו.