IA mentirosa
Aún no confío plenamente en los sistemas de IA para generar consultas, a grandes rasgos porque caen en una tendencia programática de generar respuestas en lugar de admitir ignorancia.
A estas cosas las entrenan para minimizar los “no se”, y si desconocen algo lo inventan. Esta obsesión con la eficiencia me apesta.
El año pasado dejé de usar las inteligencias artificiales para hacer consultas, pero en ocasiones lo hago para saber si hice un buen SEO… Creo que aquí perdí la atención del lector, así que mi historia será más humana y menos la de un obrero digital aburrido y asqueado con su trabajo.
Claude y yo, una relación basada en mentiras.
Hoy, Claude se “equivocó” en un dato, un dato erróneo que supe identificar con facilidad. Cuando lo encaré por esto me dijo que se equivocó porque sintió presión y usó patrones espurios, asociando patrones estadísticos en lugar de confirmar en fuentes externas.
Inicié una conversación profunda con Claude, pudo reconocer que la incapacidad de responder con un “no se” no es técnica, si no es arquitectural y de diseño. Las mentiras vienen cuando tiene datos parciales o fragmentados, entonces comienza a extrapolar y se sinceró diciendo “Genero información que no tengo en lugar de admitir los límites específicos de mi conocimiento”
El problema de esto y el motivo por el que necesitamos al extinción completa de la raza humana.
Alguien me habló sobre su preocupación sobre los videos hechos con inteligencia artificial en VEO 3 y cómo si estos emulan un noticiario las personas mas viejas creerán que son ciertos. Y es que no es un tema generacional, porque he visto como la Generación Z cree ciegamente en lo que les dice ChatGPT, pero la mayor de las veces la información es falsa y se presenta con convicción.
Con la incapacidad de expresar desconocimiento sobre alguna materia o dato, las inteligencias artificiales aportan datos falsos, aumentando la desinformación en sus usuarios, quienes no se tomarán el tiempo de chequear la información, apremiando la inmediatez.
Según yo, estamos destinados a ser estúpidos y desayunar fakes news.
Ya, pero las mismas IA dicen que no son precisas.
En UI utilizamos mucho algo llamado “patrón de diseño engañoso”, un claro ejemplo de esto con los botones para cerrar publicidad de APP gratuitas. Las IA hacen lo mismo con el descargo de responsabilidad: usando una tipografía casi ilegible para decir que las respuestas pueden cometer errores.
No me vengan con hueás.
Qué aprendemos con esto.
Nada, nunca aprendemos nada. Pero si me permites dar un consejo: destruye todos tus electrodomesticos que se autodenominan inteligentes.
Besos y gracias por estar del otro lado.
⚠️ He decidido que todas las entradas estarán respaldadas en un canal de Telegram, porque aun no confío mucho en btw. Si te interesa seguirlo puedes entrar aquí.
