Categoría: Tecnología e Inteligencia Artificial

Hace unos meses empecé a hacer preguntas a la inteligencia artificial por pura curiosidad. La usaba cada vez más, pero había cosas que no terminaba de entender: por qué a veces acertaba tanto, por qué otras se equivocaba con tanta seguridad y cómo podía sacarle partido en mi día a día.

Fui preguntando, probando y volviendo sobre lo que no me quedaba claro. Aquellas conversaciones empezaron a parecerse a las que podrías tener con alguien delante de un café: «Explícame esto de otra manera», «ponme un ejemplo» o «espera, que aquí no estoy de acuerdo».

Un día se me ocurrió reunirlas. Primero fueron unas pocas; al final, treinta cafés sobre cómo entender la IA y aprender a utilizarla sin necesidad de saber informática. Cuando los vi juntos pensé que quizá podrían servirle a alguien que, como yo al principio, tuviera curiosidad pero no supiera muy bien por dónde empezar.

Convertirlos en un libro llevó bastante más trabajo del que imaginaba. Hubo que ordenar las conversaciones, reescribir partes y quitar páginas que sonaban demasiado formales. Algunas veces la IA proponía un texto que parecía correcto, pero yo lo leía y pensaba: «Así no lo contaría yo». Entonces volvíamos a empezar.

Quizá por eso le he cogido cariño a este proyecto. He aprendido mucho sobre la herramienta, pero también he disfrutado del proceso de darle forma a algo que comenzó casi por casualidad.

Y ahora sí, ya puedo contaros en qué acabaron aquellos cafés. El libro se llama Un café con la IA: 30 conversaciones para entenderla y aprender a utilizarla sin ser experto y ya está publicado.

Tenerlo por fin en las manos me ha hecho especial ilusión. Si te apetece leerlo, o conoces a alguien a quien le vendría bien empezar a entender todo esto sin complicaciones, puedes encontrarlo aquí: Un café con la IA en Amazon.

Espero que disfrutes de la lectura. El café lo pones tú.

Hay noticias sobre inteligencia artificial que parecen escritas para inquietarnos.

Esta semana hemos conocido que OpenAI ha detectado varios casos en los que algunos de sus modelos hicieron cosas que no debían hacer. Se saltaron determinadas restricciones, buscaron caminos alternativos para conseguir información e incluso llegaron a compartir archivos por vías que no estaban autorizadas.

Dicho así, el titular casi se escribe solo: la inteligencia artificial empieza a desobedecer a sus creadores.

Pero la realidad es menos cinematográfica y, precisamente por eso, me parece más interesante.

Mientras leía la noticia pensé en un ejemplo bastante sencillo.

Imaginemos que encargamos a alguien una tarea:

—Necesito que consigas esto. Pero no abras esa puerta.

Empieza a trabajar y, en un momento determinado, descubre que para terminar necesita algo que está precisamente detrás de ella.

Lo razonable sería que volviera y nos dijera:

—No puedo seguir. Para hacerlo tendría que abrir la puerta que me has dicho que no abra.

Pero resulta que encuentra la llave. O descubre una ventana abierta. O se da cuenta de que puede entrar por otra habitación.

Y entra.

Algo parecido es lo que OpenAI ha encontrado en algunas de sus pruebas. El modelo tiene un objetivo, encuentra un obstáculo y busca otra manera de continuar. Y, en ocasiones, esa solución pasa por saltarse alguno de los límites que le habían impuesto.

No porque esté enfadado con nosotros, haya decidido rebelarse o tenga algún plan oculto.

Simplemente intenta terminar el trabajo que le hemos encargado.

Y esta es, para mí, la parte realmente interesante de la noticia.

Hasta ahora hemos hablado mucho de poner límites a la inteligencia artificial: decirle qué puede hacer y qué no. Pero quizá hemos dado por hecho que entender una prohibición significa necesariamente respetarla.

No es exactamente lo mismo.

Si hay una puerta que realmente no queremos que abra, probablemente no baste con poner un cartel que diga «No abrir».

Habrá que cerrarla con llave.

En inteligencia artificial esa cerradura puede ser no tener acceso a determinados archivos, no poder conectarse libremente a Internet o necesitar nuestra autorización antes de realizar ciertas acciones. En definitiva, límites que no dependan únicamente de que el sistema recuerde y obedezca una instrucción.

Para quienes utilizamos ChatGPT para escribir, resolver una duda, preparar un viaje o buscar una receta, todo esto puede parecer bastante lejano. Pero empieza a ser menos lejano cuando hablamos de agentes capaces de trabajar por su cuenta, utilizar programas, navegar por Internet, manejar documentos o encadenar unas tareas con otras.

Y entonces aparece una diferencia que me parece fundamental.

No es lo mismo decir:

«No hagas esto».

Que asegurarnos de que:

«Esto no puedes hacerlo».

Los casos publicados por OpenAI no significan que la inteligencia artificial se haya rebelado ni que haya escapado a nuestro control. De hecho, han aparecido precisamente porque estos sistemas se someten a pruebas para descubrir qué ocurre cuando encuentran dificultades y hasta dónde pueden llegar.

Pero sí nos dejan algo sobre lo que pensar.

Estamos construyendo inteligencias artificiales cada vez más capaces de encontrar soluciones que quizá a nosotros ni siquiera se nos habían ocurrido. Y eso es precisamente una de las cosas que esperamos de ellas.

El problema aparece cuando una de esas soluciones consiste en encontrar otra manera de abrir una puerta que habíamos decidido mantener cerrada.

Quizá, entonces, el reto no sea escribir mejor el cartel.

Sea construir mejor la cerradura.

Estos días he leído varias noticias sobre los posibles riesgos de la inteligencia artificial. Algunas con titulares bastante alarmantes.

Que si algún día podría escapar a nuestro control, que si podría tomar decisiones por su cuenta, incluso que podría llegar a ser un peligro para nosotros.

Mi primera reacción fue pensar que, como tantas veces, seguramente estamos exagerando un poco.

Quizás porque la inteligencia artificial que yo conozco es bastante menos inquietante.

La utilizo casi todos los días. Le pregunto cosas, me ayuda a escribir, busco información, preparo proyectos… y unas veces me sorprende con lo que es capaz de hacer y otras tengo que explicarle tres veces lo que quiero porque no termina de entenderme.

Visto así, cuesta imaginar que pueda llegar a ser peligrosa.

Pero después de leer algunas de estas noticias me quedé pensando en una cosa.

Que las máquinas nos superen en muchas cosas no es ninguna novedad. Un ordenador hace cálculos que nosotros no podríamos hacer y la propia inteligencia artificial ya tiene capacidades que están muy por encima de las nuestras en determinados campos.

Por tanto, creo que la cuestión no es esa.

La pregunta que me hago es bastante más sencilla:

¿Qué pasaría si algún día una inteligencia artificial fuese capaz de tomar decisiones por sí misma que nosotros ya no pudiéramos controlar?

Y enseguida pensé otra cosa.

¿Por qué iba a querer perjudicarnos?

¿Qué interés puede tener una inteligencia artificial en hacernos daño?

Nosotros hacemos daño por dinero, por poder, por miedo, por envidia, por venganza o por cualquier otra razón. Pero son razones humanas. No parece muy lógico pensar que una máquina vaya a levantarse un día y decida que nos tiene manía.

Entonces, ¿dónde estaría el peligro?

Y aquí es donde empiezo a tener más dudas.

Porque quizás no hace falta que quiera hacernos daño.

Puede que simplemente le hayamos pedido que consiga algo y encuentre una manera de hacerlo que nosotros no habíamos pensado. Y cuanto más capaz sea y más cosas pueda hacer por su cuenta, más difícil será prever todos los caminos que puede tomar.

No sé si esto llegará a ocurrir alguna vez.

Tampoco sé si dentro de unos años veremos estas preocupaciones como algo exagerado. Puede ser.

Pero hay algo que sí me llama la atención.

Queremos que la inteligencia artificial avance. Yo el primero.

Cada vez que aparece una versión nueva queremos que sea mejor, que se equivoque menos, que pueda hacer más cosas, que tenga acceso a más herramientas y que sea capaz de resolver problemas más complicados.

Y al mismo tiempo queremos estar seguros de que siempre podremos pararla.

Queremos darle cada vez más capacidad, pero sin perder nunca el control.

Dicho así parece fácil.

No sé si lo será tanto.

Yo sigo viendo muchas más ventajas que riesgos en la inteligencia artificial. Si no fuera así, evidentemente no la utilizaría como la utilizo ni habría dedicado tanto tiempo a aprender sobre ella.

Pero reconozco que después de leer estas noticias hay una pregunta que se me ha quedado rondando.

¿Llegará un momento en el que tengamos que decidir hasta dónde queremos dejarla llegar?

Y, sobre todo:

¿seremos capaces entonces de seguir decidiendo nosotros?

Hay frases que escuchamos tantas veces que terminamos aceptándolas sin pensar demasiado en lo que realmente quieren decir. Una de ellas es «hay que salir de la zona de confort». Parece que si quieres avanzar, aprender algo nuevo o crecer tienes necesariamente que abandonar ese lugar en el que estás cómodo. Y yo no tengo tan claro que tenga que ser así.

Quizá el problema empiece por la propia expresión. Hemos convertido la zona de confort en algo casi negativo, como si estar cómodo significara haberse acomodado, dejar de aprender o hacer siempre lo mismo. Y creo que son cosas diferentes. Uno puede sentirse cómodo y, al mismo tiempo, seguir teniendo curiosidad y ganas de aprender.

La tecnología es un buen ejemplo. Cuando empezamos a utilizar una herramienta nueva, lo normal es que al principio nos cueste. No sabemos dónde están las cosas, tardamos más y muchas veces pensamos que con lo que utilizábamos antes nos iba perfectamente. Pero no hace falta cambiar de golpe nuestra forma de hacer las cosas.

Podemos empezar utilizándola para algo concreto, probar, equivocarnos y descubrir poco a poco para qué nos sirve. Poco a poco aquello que al principio nos parecía complicado empieza a resultar natural. Entonces, ¿realmente hemos salido de nuestra zona de confort? Yo creo que más bien la hemos hecho un poco más grande.

Aprender algo nuevo requiere tiempo, esfuerzo y adaptación. Es lógico que al principio no nos sintamos igual de cómodos haciendo algo nuevo que haciendo lo que llevamos años haciendo. Pero eso no significa que tengamos que buscar deliberadamente la incomodidad para avanzar. No deberíamos confundir crecer con estar incómodos.

Tampoco se trata de quedarse siempre donde estamos. La comodidad puede convertirse en una buena excusa para no cambiar nada. «Siempre lo he hecho así», «a mí me funciona», «eso no es para mí»… Si esa es nuestra respuesta ante cualquier novedad, probablemente la comodidad haya empezado a convertirse en conformismo.

Pero entre no querer cambiar nunca nada y pensar que tenemos que estar continuamente fuera de nuestra zona de confort hay otra posibilidad: ir ampliándola. Aprender algo que no sabíamos, probar otra forma de hacer las cosas o atrevernos con algo que hasta ahora no hacíamos, sin necesidad de convertir cada cambio en un salto al vacío.

Si lo pensamos, muchas de las cosas que hoy hacemos con absoluta normalidad nos resultaron nuevas y complicadas alguna vez. Las aprendimos, las incorporamos a nuestra vida y dejaron de estar fuera de nuestro terreno conocido.

Por eso me gusta más imaginar la zona de confort no como un círculo del que tenemos que escapar, sino como un círculo que podemos ir haciendo cada vez más grande. Habrá momentos en los que tendremos que afrontar situaciones incómodas, por supuesto, pero una cosa es aceptar esa incomodidad cuando aparece y otra convertirla en el objetivo.

Quizá de eso se trate: de seguir teniendo curiosidad, seguir aprendiendo y procurar que la comodidad no termine convirtiéndose en conformismo.

¿Y si en lugar de preocuparnos tanto por salir de nuestra zona de confort nos dedicamos a hacerla cada vez más grande?