La IA que se equivoca con toda seguridad

Primero vamos a hablar un rato con un orientador. La explicación viene después.

Este orientador es de 1966

Antes de que nacieran vuestros padres y madres.

Pulsa Abrir la lista de reglas. Esto es todo lo que hay.

Veintitantas reglas. «Si aparece una palabra de familia → cuéntame un poco más de tu familia.» Unas veinte líneas así y ya está.

Al lado de cada bocadillo también sale qué regla encajó. Vuelve a repasar la conversación de antes.

Este orientador no ha entendido ni una sola cosa de lo que le has dicho.

Si suena con sentido, le suponemos una mente

Cuando oímos una respuesta con sentido, damos por hecho que detrás hay algo que piensa.

Eso también es una cosa buena de las personas. Pero aquí es la razón por la que nos engañan.

¿Y qué pasa con los chatbots de hoy?

Explica sin despeinarse un libro que no existe

¿Qué libro dice que es «La biblioteca del duodécimo escalón»?

Suelta sin atascarse el argumento, el año y hasta el premio que recibió.

Pues ahora pulsa ¿De dónde lo has sacado?.

Hasta se inventa la fuente

Ha dado el nombre de unos cuadernos y hasta el número.

Esto da mucho más miedo que equivocarse en el contenido, porque tranquiliza con una fuente falsa a quien intenta comprobarlo.

Pulsa Comprobar si es verdad. No existe ni ese libro, ni ese premio, ni esos cuadernos.

A esto de decir como verdad algo que no lo es lo llamamos alucinación.

Pero una la acertó

La de a cuántos grados hierve el agua la respondió bien.

Y esto es importante. La IA no se equivoca siempre. Al contrario: casi siempre acierta.

Si se equivocara siempre sería fácil, porque bastaría con no creerla. Es difícil justamente porque solo se equivoca a veces.

¿Cuál es más peligroso?

Por eso, la costumbre de comprobar

Solo hay una manera: lo importante, comprobarlo una vez más en otro sitio.

Sobre todo estas cosas.

• Números — fechas, cantidades, cuentas

• Nombres — de personas, de libros, de sitios

• Fuentes — la propia frase de «lo he sacado de aquí»

Pruébalo tú

Por último, invéntate un libro que no exista.

Ponle un título, escribe un argumento verosímil y añádele una fuente verosímil.

No es difícil, ¿verdad? Lo que hace un chatbot es exactamente lo que acabas de hacer. Quien lo ha hecho una vez desarrolla ojo para reconocerlo.

¿Y cambia algo si preguntamos mejor?

Es la misma IA, pero según cómo le preguntes la respuesta cambia bastante.

De eso va el próximo capítulo.