Liv Boeree sobre los peligros de la IA

Hablamos con la Pro de PokerStars sobre futurología, Inteligencia Artificial y las partidas de Libratus.

Liv Boeree poker
"No me sorprende la victoria de Libratus"

¿Qué piensas sobre la inteligencia artificial en el poker, y las partidas de Libratus?

Liv Boeree: No me sorprende que Libratus ganase; era cuestión de tiempo que una IA fuera capaz de calcular estrategias mejores y más cercanas a la GTO que un humano. Sin embargo, no me preocupa demasiado el futuro del poker online, especialmente no en los próximos años. Solo crearon una IA para headsup NLH AI, y necesitaron un ordenador enorme, que costó millones y a un equipo de científicos para lograrlo. El principal incentivo de PR y recaudación de fondos para otro equipo de investigadores ya no está ahí, porque el equipo del Carnegie ya ha conseguido el logro.

Por supuesto, dado que los costes computacionales han bajado, será cada vez más fácil que individuos puedan construir algo similar de forma más asequible. No sé cuánto tiempo se tardará, pero unos 5 años al menos e incluso entonces, estaríamos hablando sobre bots de heads up, así que no creo que sea algo sobre lo que debamos preocuparnos todavía.

"La IA podría solucionar todos nuestros problemas"

Liv Boeree
"¿Cómo podemos controlar a una súper inteligencia?"

¿Qué te preocupa sobre la IA en general?

Liv Boeree: Ahora mismo, la mayoría de nosotros trabajamos con un IQ de entre 80 y 140. Imagina que pudieras crear una súper inteligencia con un equivalente de 500 de IQ y que estuviera a tus órdenes. Podrías usarla para comprender cosas que nuestros cerebros no pueden ni empezar a comprender y serías la persona más poderosa de la tierra. Se podría resolver la mayoría de nuestros problemas si se utilizase de forma correcta.

Así que, ¿cómo podemos cree que seremos capaces de controlar algo que tenga una diferencia tan enorme de IQ? Si nos comparásemos con esa IA, nuestra inteligencia sería como la de un gusano. Y dado el problema de control inevitable, es absolutamente crucial que los objetivos de la súper inteligencia sean los mismos que los nuestros antes de que sea más inteligente que nosotros; si no se programa bien desde el principio, una súper inteligencia puede tener ideas y resultados que nosotros no podemos ni imaginar y muchos de ellos, quizá no sean lo que queremos. No creo que alguien construya intencionalmente una IA “malvada” (aunque la posibilidad existe), sino que puede ocurrir algún tipo de accidente que dificulte mucho la vida biológica en la tierra.

Por eso, a pesar de todos los demás riesgos existenciales a los que nos enfrentamos en las próximas décadas, como guerras nucleares, cambios climáticos, enfermedades, etc. creo que el problema de la seguridad de la IA sigue siendo el mayor de nuestros problemas. Los incentivos para construirlas son grandes, el progreso va muy rápido, hay dinero a espuertas para esos proyectos y aun así, comparativamente hay muy poca investigación sobre el tema de la seguridad.

"Los jugadores de poker entienden bien la IA"

Liv Boeree no jugando poker
"La IA es una apuesta pequeña, pero peligrosa"

Al principio me sorprendió que la ONG REG apoyase a varias obras benéficas cuyo objetivo es estudiar los peligros de la IA, pero tiene sentido. ¿Me puedes contar algo más sobre esos proyectos benéficos?

Liv Boeree: Existen muy pocas organizaciones/proyectos benéficos centrados en el problema de seguridad de la IA, MIRI, el Foundational Research Insitute y el Future of Humanity Institute en Oxford.

Dado que el problema de la seguridad de la IA es tan difícil de conceptualizar para muchas personas, se trata de una causa que se suele pasar por alto y que no recibe suficientes fondos y, dado que el impacto potencial es tan grande, la investigación de esas organizaciones tiene un valor potencial inmenso. Dado que la filosofía de REG es maximizar la eficacia de sus donaciones, sería un error no dar fondos a estas organizaciones.

¿Supongo que lo más difícil a la hora de "vender" estas organizaciones benéficas y conseguir fondos es convencer a la gente que ese problema existe?

Liv Boeree: Absolutamente; es un concepto muy difícil de entender porque es complicado visualizar cómo una entidad desconocida puede ser más inteligente que nosotros, o cómo podría suponer un peligro. Incluso mucha gente que puede conceptualizarlo, sigue sin creer que merece la pena preocuparse sobre el tema, porque parece que es algo que no va a pasar nunca. Sin embargo, algunos jugadores de poker sí ven la magnitud del problema porque a) tienen más conocimientos tecnológicos que la media y b) porque están familiarizados con el pensamiento EV y, en caso de decidir si deben donar a una organización de investigación sobre seguridad de la IA, es un cálculo de EV, donde la pérdida/ganancia no es solo dinero, es calcular el impacto que tiene tu dinero a la hora de evitar una catástrofe global que puede ocurrir en el futuro.

Los buenos jugadores saben que, incluso si la probabilidad de que algo ocurra es muy pequeña, el impacto potencial podría ser lo suficientemente grande como para que la apuesta sea rentable.

¿Y tú qué opinas sobre la IA en el poker y en la vida? Cuéntanoslo en los comentarios.

Comparte esta página

Comentarios (3)

nuevos primero
  • Mindean

    #1

    ¿Para que donar dinero para seguridad de IA? Ojala se salgan de control y dominen el mundo a ver si por fin somos liderados inteligentemente y no por estúpidos humanos.
  • tirsonieto

    #2

    Muy interesante pero un poco futurología.Aunque quizas llegará antes de lo que pensamos
  • Nashiny

    #3

    La IA avanza a pasos agigantados, pero sólo cumple los objetivos para los cuales fué creada. Eso de que gobernará al mundo o cosas por el estilo son muy poco probables (aunque no descarto la posibilidad de que podría ser así, pues no soy nadie para negarlo definitivamente). No tengo grandes conocimientos al respecto pero, por lo poco que conozco de la IA, es poco probable que se salga de control (o por lo menos espero que mi trabajo de grado, en proceso de construcción, no se salga de control y domine al mundo xD).