Hay noticias sobre inteligencia artificial que parecen escritas para inquietarnos.
Esta semana hemos conocido que OpenAI ha detectado varios casos en los que algunos de sus modelos hicieron cosas que no debían hacer. Se saltaron determinadas restricciones, buscaron caminos alternativos para conseguir información e incluso llegaron a compartir archivos por vías que no estaban autorizadas.
Dicho así, el titular casi se escribe solo: la inteligencia artificial empieza a desobedecer a sus creadores.
Pero la realidad es menos cinematográfica y, precisamente por eso, me parece más interesante.
Mientras leía la noticia pensé en un ejemplo bastante sencillo.
Imaginemos que encargamos a alguien una tarea:
—Necesito que consigas esto. Pero no abras esa puerta.
Empieza a trabajar y, en un momento determinado, descubre que para terminar necesita algo que está precisamente detrás de ella.
Lo razonable sería que volviera y nos dijera:
—No puedo seguir. Para hacerlo tendría que abrir la puerta que me has dicho que no abra.
Pero resulta que encuentra la llave. O descubre una ventana abierta. O se da cuenta de que puede entrar por otra habitación.
Y entra.
Algo parecido es lo que OpenAI ha encontrado en algunas de sus pruebas. El modelo tiene un objetivo, encuentra un obstáculo y busca otra manera de continuar. Y, en ocasiones, esa solución pasa por saltarse alguno de los límites que le habían impuesto.
No porque esté enfadado con nosotros, haya decidido rebelarse o tenga algún plan oculto.
Simplemente intenta terminar el trabajo que le hemos encargado.
Y esta es, para mí, la parte realmente interesante de la noticia.
Hasta ahora hemos hablado mucho de poner límites a la inteligencia artificial: decirle qué puede hacer y qué no. Pero quizá hemos dado por hecho que entender una prohibición significa necesariamente respetarla.
No es exactamente lo mismo.
Si hay una puerta que realmente no queremos que abra, probablemente no baste con poner un cartel que diga «No abrir».
Habrá que cerrarla con llave.
En inteligencia artificial esa cerradura puede ser no tener acceso a determinados archivos, no poder conectarse libremente a Internet o necesitar nuestra autorización antes de realizar ciertas acciones. En definitiva, límites que no dependan únicamente de que el sistema recuerde y obedezca una instrucción.
Para quienes utilizamos ChatGPT para escribir, resolver una duda, preparar un viaje o buscar una receta, todo esto puede parecer bastante lejano. Pero empieza a ser menos lejano cuando hablamos de agentes capaces de trabajar por su cuenta, utilizar programas, navegar por Internet, manejar documentos o encadenar unas tareas con otras.
Y entonces aparece una diferencia que me parece fundamental.
No es lo mismo decir:
«No hagas esto».
Que asegurarnos de que:
«Esto no puedes hacerlo».
Los casos publicados por OpenAI no significan que la inteligencia artificial se haya rebelado ni que haya escapado a nuestro control. De hecho, han aparecido precisamente porque estos sistemas se someten a pruebas para descubrir qué ocurre cuando encuentran dificultades y hasta dónde pueden llegar.
Pero sí nos dejan algo sobre lo que pensar.
Estamos construyendo inteligencias artificiales cada vez más capaces de encontrar soluciones que quizá a nosotros ni siquiera se nos habían ocurrido. Y eso es precisamente una de las cosas que esperamos de ellas.
El problema aparece cuando una de esas soluciones consiste en encontrar otra manera de abrir una puerta que habíamos decidido mantener cerrada.
Quizá, entonces, el reto no sea escribir mejor el cartel.
Sea construir mejor la cerradura.
Desde mi rincón 
Deja un comentario