La inteligencia artificial podría ser un superhéroe de nuestro tiempo. Y aunque a priori se crea que todo lo puede, así como Superman flaqueaba con la criptonita el algoritmo también tiene su propio talón de Aquiles. El curioso descubrimiento trascendió en las últimas horas: al poner el nombre "David Mayer" en ChatGPT, la aplicación deja de funcionar, se niega a continuar, no devuelve respuesta alguna salvo el siguiente aviso: "Parece que algo salió mal".

Ese es el texto en castellano. La respuesta en inglés reportada en otros países dice lo mismo pero de otra manera: "I'm unable to produce a response" (soy incapaz de producir una respuesta). Las especulaciones en las redes sociales a partir de esta aparentemente inédita situación no se demoraron. La primera pregunta que la mayoría se hizo fue quién era este misterioso personaje del que el algoritmo «se niega» a revelar información.

El enigma detrás de David Mayer

El hecho provocó gran inquietud y la primera asociación de los internautas -por la notoriedad pública- fue con David Mayer de Rothschild, multimillonario inglés vinculado con causas ambientalistas, a quien se lo vinculó sentimentalmente con la actriz Angelina Jolie. ¿Pero por qué ChatGPT se negaría a hablar de este personaje? Todo indica que la respuesta no estaría relacionada con el ocultamiento de una historia determinada, sino a otros motivos de orden técnico.

Martin Hadis, investigador, doctor en Humanidades y Master en Media Tech por el Instituto de Tecnología de Massachusetts (MIT), ensayó una explicación de por qué a ChatGPT le "saltó la térmica", cómo él lo definió: "Evidentemente, la mera generación de la representación interna de 'David Mayer' lo tildó. Ni una persona concreta ni un pedido de info".

La complejidad de la inteligencia artificial

Hadis agregó: "Varias personas al leer esto se preguntan quién 'es' David Mayer. Este es un problema clave en el uso de la IA: analizar sus reacciones en términos humanos. Si a cualquiera de nosotros un nombre nos lleva a cortar una conversación, lo más probable es que se deba a nuestras emociones o conceptos de la persona que lleva ese nombre. Pero ChatGPT, sobra decirlo, no es una persona. Y la manera en que procesa datos es muy diferente a la nuestra. Es perfectamente posible que el problema que le causa 'David Mayer' ocurra incluso antes de que lo detecte como un nombre, y mucho antes aún de que lo asocie con alguien en particular".

El problema, efectivamente es la combinación de ambas palabras, ya que al poner sólo "Mayer" el algoritmo también cuenta quién es Mayer de Rothschild. O, incluso, si voluntariamente se escribe mal el nombre y en vez de David Mayer se pone David Meyer, también el robot le cuenta al interesado quién es ese mismo personaje sin reparar en que la grafía tiene una errata.

La «caja negra» de la inteligencia artificial

El ejemplo bastante burdo de lo acontecido con la combinación de palabras «David Mayer» pone en evidencia un problema más profundo que existe con la inteligencia artificial, y es que la herramienta es útil para responder determinados requerimientos humanos, pero lo que las personas no entienden ni van a entender es por qué la IA hace lo que hace, ni cuáles son los eventuales sesgos que la llevan a brindar determinadas respuestas. Es «tómalo o déjalo».

Esa «caja negra» fue lúcidamente descripta recientemente por el cardiólogo Jorge Thierer en el 50° Congreso Argentino de Cardiología. En el cierre de su ponencia, titulada «Entre Esculapio y la inteligencia artificial», el médico reflexionó: «La inteligencia artificial sin duda representa un progreso fenomenal y demuestra nuestras limitaciones. La inteligencia artificial te permite ver lo que no ves. ¿Cuál es el problema? Que no entendemos por qué".

Conclusiones

En resumen, el caso de David Mayer y la inteligencia artificial revela la complejidad y los misterios que aún rodean a estas tecnologías. A pesar de sus avances y beneficios, la IA sigue siendo una «caja negra» en muchos aspectos, generando respuestas inesperadas y mostrando limitaciones que desafían nuestra comprensión. Es un recordatorio de que, a pesar de su poder, la inteligencia artificial sigue siendo un campo en constante evolución y descubrimiento. (Fuente Clarín)