ما تحتاج إلى معرفته
- وضعت Google أحد مهندسيها في إجازة مدفوعة الأجر بعد إثارة مخاوف بشأن أخلاقيات الذكاء الاصطناعي داخل الشركة.
- ادعى Blake Lemoine أن نظام روبوت الدردشة LaMDA من Google قد اكتسب مستوى من الإدراك يمكن مقارنته بالبشر.
- تقول Google إنه لا يوجد دليل يدعم تأكيدات Lemoine.
تم تعيين مهندس Google الذي يعمل في منظمة AI Responsible AI في إجازة مدفوعة الأجر بعد أن أثار مخاوف من أن نظام chatbot LaMDA أصبح واعيًا.
ادعى Blake Lemoine أن LaMDA (نموذج اللغة لتطبيقات الحوار) يفكر مثل "طفل يبلغ من العمر 7 سنوات ويبلغ من العمر 8 سنوات يعرف الفيزياء" ، وفقًا لـ واشنطن بوست. جوجل قدمت LaMDA في حدث I / O العام الماضي ليصنع مساعد جوجل أكثر حوارية.
في الخريف الماضي ، كان Lemoine يختبر ما إذا كان الذكاء الاصطناعي يستخدم خطابًا تمييزيًا أو يحض على الكراهية. بعد محادثته مع LaMDA ، خلص المهندس إلى أنه كان أكثر من مجرد نظام لتوليد روبوتات محادثة. وفي وقت لاحق ، صعد مخاوفه إلى المديرين التنفيذيين في Google في أبريل من خلال وثيقة تحتوي على نسخة من محادثاته مع LaMDA.
قال Lemoine إنه تحدث مع LaMDA حول مواضيع مختلفة ، مثل الحقوق والدين وقوانين الروبوتات. وصفت منظمة العفو الدولية نفسها على أنها "شخص" لأن لديها "مشاعر وعواطف وتجربة ذاتية". قال Lemoine أيضا يريد LaMDA "إعطاء الأولوية لرفاهية الإنسانية" و "الاعتراف به كموظف في Google بدلاً من ملكية."
يمكنك قراءة النص الكامل للمحادثة عبر وظيفة Lemoine المتوسطة، الذي نشره بعد أن رفض التنفيذيون في Google تأكيداته.
نفى عملاق البحث مزاعم Lemoine. في بيان لـ Android Central ، قال المتحدث باسم Google ، براين غابرييل ، إن الشركة "ليست على علم بأي شخص آخر يقوم بهذا الأمر على نطاق واسع التأكيدات ، أو تجسيد LaMDA ، بالطريقة التي اتبعها بليك "، في إشارة إلى مئات الباحثين والمهندسين الذين تحدثوا مع لامدا.
وأضاف غابرييل: "قام فريقنا - بما في ذلك علماء الأخلاق والتقنيين - بمراجعة مخاوف بليك وفقًا لمبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه".
كما وصف المتحدث باسم Google "البحث والاختبار الصارمين" بالإضافة إلى سلسلة من 11 مراجعة لمبادئ الذكاء الاصطناعي التي مر بها LaMDA. قال غابرييل إن هذه التقييمات "تستند إلى مقاييس أساسية للجودة والسلامة وقدرة النظام على إنتاج بيانات تستند إلى الحقائق".
"بالطبع ، يفكر البعض في مجتمع الذكاء الاصطناعي الأوسع في إمكانية طويلة المدى للذكاء الاصطناعي الواعي أو العام ، ولكن ليس من المنطقي القيام بذلك عن طريق تجسيد نماذج المحادثة الحالية ، والتي ليست واعية "، قال. "هذه الأنظمة تحاكي أنواع التبادلات الموجودة في ملايين الجمل ، ويمكنها أن تتطرق إلى أي موضوع خيالي - إذا سألت كيف يبدو الأمر عندما تكون ديناصور آيس كريم ، فيمكنه إنشاء نص حول الذوبان والزئير وهكذا على."
تم وضع Lemoine لاحقًا في إجازة إدارية مدفوعة الأجر لانتهاكه سياسة السرية في Google ، حسبما ذكرت صحيفة The Post. وبحسب ما ورد سعى أيضًا إلى تعيين محامٍ لتمثيل لامدا وتحدث إلى أعضاء اللجنة القضائية في مجلس النواب حول الأنشطة غير الأخلاقية المزعومة لشركة Google.
ومع ذلك ، من المرجح أن يدعو التعليق إلى التدقيق في الذكاء الاصطناعي من Google.