BingGPT es tan malo como pensé que sería

Microsoft abrió su búsqueda de Bing mejorada con ChatGPT a un grupo de personas recientemente y está demostrando lo malo que es. No deberíamos estar sorprendidos porque este tipo de IA es 90% novedoso, pero lo estamos porque fue promocionado como la próxima venida de la santidad tecnológica.

Que no es. Tampoco es culpa de Microsoft: El de Google será de la misma manera. Es solo que la tecnología no está diseñada para hacer esto y, si lo fuera, ni siquiera está cerca de estar lista. Las únicas personas suspirando por más de este tipo de integración de IA usando la tecnología actual son las personas que realmente no entienden sus limitaciones.

Incluso el CEO de OpenAI, Sam Altman, dice que "la gente está rogando ser decepcionada y lo serán" cuando se trata de ChatGPT (OpenAI es la empresa que creó el software ChatGPT). Eso no importó porque la gente vio a todos divirtiéndose mientras afirmaban que sería dejar a la gente sin trabajo o convertir la educación en un modo fácil porque puede escribir todos los documentos para estudiantes. Las empresas simplemente tenían que abordar el tren de la exageración y tratar de sacar provecho, al diablo con las consecuencias.

Entonces, ¿qué tiene de malo BingGPT? Infinidad. no tiene miedo de descartar insultos raciales. Llegó cada hecho mal en su demostración con guión cuando Microsoft lo anunció. Si lo pides, lo hará decirte que los Eagles ganaron el Super Bowl el día antes de que se jugara. Pero, sobre todo, imita el comportamiento para el que fue entrenado: personas que escriben cosas en Internet.

Caso en punto:

Eso no es un engaño, ni lo son los muchos otros ejemplos de BingGPT siendo igualmente estúpido. Simplemente tienes que darte cuenta de por qué hace lo que hace y todo tiene sentido.

ChatGPT y la mayoría de los otros LLM (modelos de lenguaje grande) están capacitados para "leer" Internet. Una biblioteca gigante de texto digital es perfecta para entrenar una IA para buscar respuestas y tratar de sonar como una persona cuando te las regurgita.

Pero no es una persona y no tiene sentido del bien contra el mal cuando se trata de responderte. Eso significa que no tiene forma de saber si la información presentada es real y basa su "personalidad" en los usuarios de Internet.

El primero va a ser difícil de arreglar. Aunque lo llamemos Inteligencia Artificial, definitivamente no es inteligente. Es como un loro y solo puede repetir las cosas que le dijeron. El segundo es imposible de solucionar sin encontrar una nueva forma de entrenar la IA: puede actuar como un troll de Reddit porque aprendió de los trolls de Reddit.

La IA está programada para responder usando términos como asertivo, autoritario, amable, etc. Se muestran ejemplos de cómo se ve cada una de esas cosas. El resultado es como discutir con un adicto a veces porque aprendió a discutir como lo hace un adicto. No es malvado, estúpido o incluso desagradable. Simplemente está haciendo lo que fue programado para hacer: ser predictivo y usar ejemplos de su base de datos como un medio para sonar como un humano.

En este momento es bueno para reír y poco más a menos que esté tratando de sacar provecho de la estafa con su curso pagado para "ChatGPT como un profesional." Microsoft (y Google) nunca deberían haberlo presentado como algo más que un lindo juguete. Pero ambos hicieron eso y ahora esperamos que sea confiable y autoritario cuando se trata de buscar sin sonar como las respuestas de Twitter con las que fue entrenado.

Las generaciones futuras de LLM mejorarán en la eliminación de tonterías y tal vez también estarán mejor preparados para convertirse en nuestro search-bot/ best friend, pero va a requerir un gran avance en la IA: cualquier cosa basada en los métodos actuales nunca va a ser suficientemente bueno. Mientras tanto, recuerde disfrutar del choque de trenes y no tomarlo demasiado en serio cuando llegue. su teléfono.