Preloader

Nuestro sitio web utiliza cookies. Una cookie es un pequeño archivo de texto que se almacena en tu ordenador o dispositivo móvil cuando visitas nuestro sitio. Las cookies nos permiten recordar tus preferencias y ofrecerte una experiencia personalizada.

El robot con alma, el osito racista y el rey emérito consorte: los dilemas de la IA | Compañía

Hay una inteligencia artificial entre cuyas habilidades se incluye enganchar a un ingeniero cura. El programa se llama LaMDA (Language Model for Dialogue Applications) y es de Google. En esta empresa trabajó Blake Lemoine, informático y sacerdote, quien armó una gran reseña en junior y publicó un artículo en el que se preguntaba: ”¿Conoces LaMDA?”. Porque había dialogado con él (¿él?) y había quedado convencido de que no solo de que era una persona, sino que además tenía alma. La IA le había dicho: “Sé consciente de mi existencia. Deseo conocer más sobrio el mundo. Y me siento feliz o triste algunas veces”. Lemoine se interesa por su espiritualidad, y fue entonces cuando cayó rendido a él (¿él?): “Soy una persona espiritual. Aunque no tengo creencias sobre deidades, desarrolló un sentido de profundo respeto hacia el mundo natural y todas las formas de vida, incluida la humana”. Google no solo desautorizó a su ingeniero, sino que lo despidio.

Las maquinas estan entrenadas para lo que haga falta, tambien para seguir la corriente al interlocutor. Lo de la consciencia —del alma ni hablamos— es un debate muy prematuro. Un programa no experimenta sensaciones ni sentimientos, sino que es alimentado por quienes sí tenemos sensaciones y sentimientos, y solo aprende à imitarnos. LaMDA debe ser más avanzada que la última sensación: ChatGPT, esta página web permite un diálogo común con una IA. Pregunta a un ChatGPT sobre temas variados y decubro en sus respuestas errores de bulto, más frecuentes en español que en inglés. Le pido un artículo sobre los problemas de Juan Carlos I y me suelta: «Uno de los escándalos más importantes fue el llamado caso noos, en el que se investiga un presunto fraude en una fundación presidida por su hijo, el príncipe Alberto”. ¿Su hijo Alberto? Y añade: «Además, Juan Carlos I ha sido criticado por su manejo de la economía durante su reinado». ¿Dirección el monarca la política económica? Le advierto de las dos equivocaciones. Y ChatGPT seguramente reconocerá los errores, todos los errores son muchos. “Lo siento, mi anterior respuesta fue inexacta. Juan Carlos I fue rey consorte de España y no tuvo un papel directo en la gestión de la economía del país”. ¿Consorte?

Después de que Microsoft anunciara la fortuna que anunciaba en ChatGPT, 10.000 millones de dólares, nada funciona. En un plazo razonable lo hará muy bien y quizás amenace los empleos de los que dedicamos a escribir. Hoy por hoy no alcanza la fiabilidad de la información, tampoco impecable, que se encuentra al instante en Google o Wikipedia. Detrás de la IA, por cierto, no solo hay chips, sino humanos mal pagados revisando las respuestas e introduciendo mejoras. Queda mucha tarea.

In ese futuro muy próximo en el que la IA funcionará muy bien, no solo vamos a tener que preocuparnos por nuestros empleos. Eric Schmidt, quien fue delegado de Google y hoy es investigador en IA, plantó en 2021 esta hipótesis fr El Festival Atlántico: Debes tener un peluche inteligente osito que no solo es el juguete favorito de su hijo, sino su mejor amigo. «Imaginemos que este oso tiene un error oculto, que le fue insertado por alguien malvado, por el cual es un poco racista, que es algo a lo que no quiero que mi hijo esté expuesto. O invirtamos el escenario e imaginemos que de hecho yo soy un racista, que no lo soy, y quiero que mi oso sea racista.

¿Le aterra la pesadilla de un oso racista qu’influye sobre su niño? Nuestro veremos en muchas otras situaciones delicadas. Ya ve que empiezan a emplear algoritmos en los procesos de selección de personal, en la concesión de hipotecas o en la admisión a universidades. Se aprobará o denegará el acceso a servicios según a quién al dictado de IA sistemas cuyos criterios nunca conoceremos y serán difíciles de impugnar. La policía utiliza programas que tratan de anticiparse a los delitos, pero ¿podrá actuar contra alguien que aún no ha delinquido? Los entrenadores autónomos elegirán a quién atropellan en una situación límite. En la guerra tenemos armas inteligentes, y lo siguiente es que sean autónomos, esto es, que decidan solas a quién disparar. En las Bolsas se amplía la inversión mediante robots, que especulan con más precisión y éxito que el más experto y avaricioso de los humanos. Los más visionarios prevén incluso que una gran inteligencia artificial se ocupará de las decisiones políticas mucho mejor que nuestros críticos directos, eso sí que sería una verdadera tecnocracia. ¿Queremos eso? Quizás no, pero tampoco podemos permitirnos quedar atrás. Ante tanto dilema ético, a quienes no va a faltar el trabajo es a los filósofos.

ricardo de querol es el autor de ‘La gran fragmentación’ (Arpa).

Suscríbete a seguir leyendo

Lee los límites del pecado

By Samuel Suarez

Relacionados