BingGPT seburuk yang saya kira

Microsoft membuka pencarian Bing yang ditingkatkan ChatGPT ke sekelompok orang baru-baru ini dan itu terbukti menunjukkan betapa buruknya itu. Kami tidak perlu heran karena AI semacam ini 90% baru, tetapi kami terkejut karena AI ini digembar-gemborkan sebagai kedatangan kekudusan teknologi berikutnya.

Ini bukan. Itu juga bukan salah Microsoft — Google akan dengan cara yang sama - hanya saja teknologinya tidak dirancang untuk melakukan ini dan jika ya, itu bahkan belum siap. Satu-satunya orang merindukan lebih dari integrasi AI semacam ini menggunakan teknologi saat ini adalah orang-orang yang tidak terlalu memahami keterbatasannya.

Bahkan CEO OpenAI Sam Altman mengatakan bahwa "orang memohon untuk kecewa dan mereka akan kecewa" dalam hal ChatGPT (OpenAI adalah perusahaan yang membuat perangkat lunak ChatGPT). Itu tidak masalah karena orang melihat semua orang bersenang-senang dengannya sambil juga mengklaim bahwa itu akan terjadi membuat orang keluar dari pekerjaan atau mengubah sekolah menjadi mode mudah karena dapat menulis semua kertas untuk siswa. Perusahaan hanya harus naik kereta hype dan mencoba untuk menguangkan, konsekuensi terkutuk.

Jadi apa yang salah dengan BingGPT yang Anda tanyakan? Banyak. Itu tidak takut membuang hinaan rasial. Itu didapat setiap fakta salah dalam demonstrasi skripnya ketika Microsoft mengumumkannya. Jika Anda bertanya, itu akan terjadi memberitahu Anda Eagles memenangkan Super Bowl sehari sebelum dimainkan. Tapi yang terpenting, ini meniru perilaku yang dilatihkan: orang mengetik sesuatu di internet.

Inti masalah:

Itu bukan tipuan, juga bukan banyak contoh lainnya dari BingGPT sama bodohnya. Anda hanya perlu menyadari mengapa ia melakukan apa yang dilakukannya dan semuanya masuk akal.

ChatGPT dan sebagian besar LLM (Large Language Models) lainnya dilatih dengan "membaca" internet. Pustaka teks raksasa berbasis digital sangat cocok untuk melatih AI untuk mencari jawaban dan mencoba terdengar seperti seseorang saat memuntahkannya kepada Anda.

Tapi itu bukan orang dan tidak memiliki rasa benar versus salah ketika harus menjawab Anda. Artinya, tidak ada cara untuk mengetahui apakah informasi yang disajikan itu faktual, dan mendasarkan "kepribadiannya" pada pengguna internet.

Yang pertama akan sulit diperbaiki. Meskipun kami menyebutnya Kecerdasan Buatan, itu jelas tidak cerdas. Ini seperti burung beo dan hanya bisa mengulangi hal-hal yang diceritakan. Yang kedua tidak mungkin diperbaiki tanpa menemukan cara baru untuk melatih AI — ia dapat bertindak seperti troll Reddit karena dipelajari dari troll Reddit.

AI diprogram untuk merespons menggunakan istilah-istilah seperti tegas, berwibawa, baik hati, dll. Itu ditunjukkan contoh bagaimana masing-masing hal itu terlihat. Hasilnya kadang-kadang seperti berdebat dengan seorang pecandu karena dia belajar bagaimana berdebat seperti seorang pecandu. Itu tidak jahat atau bodoh atau bahkan jahat. Itu hanya melakukan apa yang diprogram untuk dilakukan: menjadi prediktif dan menggunakan contoh dari basis datanya sebagai sarana untuk terdengar seperti manusia.

Saat ini bagus untuk ditertawakan dan hal-hal kecil lainnya kecuali Anda mencoba menguangkan grift dengan kursus berbayar Anda ke "ChatGPT seperti pro." Microsoft (dan Google) seharusnya tidak pernah menampilkannya sebagai apa pun selain mainan yang rapi. Tetapi keduanya melakukan itu dan sekarang kami memiliki harapan bahwa itu akan dapat diandalkan dan berwibawa dalam hal pencarian tanpa terdengar seperti balasan Twitter yang dilatihnya.

LLM generasi mendatang akan menjadi lebih baik dalam membasmi omong kosong dan mungkin mereka juga akan lebih cocok untuk menjadi milik kita search-bot/best friend tetapi itu akan membutuhkan terobosan besar dalam AI — apa pun yang didasarkan pada metode saat ini tidak akan pernah berhasil cukup baik. Sementara itu, ingatlah untuk menikmati kecelakaan kereta api dan jangan menganggapnya terlalu serius jika dan ketika itu tiba telepon Anda.