domingo, 9 de febrero de 2014

Google, Ética y Terminator

A finales de enero, Google ha adquirido DeepMind, una empresa inglesa dedicada al desarrollo de la inteligencia artificial. Algo normal, una compra más de las muchas que normalmente realiza la corporación de internet... hasta que supimos que, entre los acuerdos alcanzados, se contempla la exigencia, por parte de los dueños de DeepMind, de que Google establezca un Comité de Ética sobre Asuntos de Inteligencia Artifical. Alarma.

Porque, si abrimos el campo de visión, resulta que; 1) esta es la octava compra de Google, todas recientes, de empresas relacionadas con la robótica y la inteligencia artificial; 2) la anterior adquisición fue Boston Dynamics, una empresa que trabaja con el Departamento de Defensa de Estados Unidos; 3) DeepMinds está especializado en lo que se denomina AGI (Artificial General Intelligence), en contraposición a la simple AI. La primera está más centrada en la planificación, ejecución y rectificación, mientras que la segunda solo se centra en la repetición de tareas más simples; 4) el alto precio pagado, 400 millones de dólares, parece indicar que DeepMind no debe ir muy atrasada en sus desarrollos; y 5) DeepMind asegura que forzó al máximo la creación del citado Comité de Ética, lo que significa que Google se resistió.

La noticia, por supuesto, no ha pasado desapercibida en los medios especializados, entre ellos ExtremeTech.com y Forbes. El primero nos avisa de que, con estas compras, Google ya está en condiciones de crear SKYNET, la red que desarrolló al ciborg Terminator en la película del mismo nombre, y cuyo objetivo era acabar con el humano que lideraba la resistencia a las máquinas.

El segundo, publicado por Forbes, está firmado por los profesores de filosofía Evan Selinger, del Rochester Institute of Technology, y Patrick Lin, de la California Politechnic State University. Los profesores Selinger y Lin se centran en el tema de la ética, concretamente en la creación del dicho Comité de Ética: cuáles serán sus objetivos, por quién estará compuesto y si funcionará.

Muy resumidamente, vienen a decirnos que, en general, las corporaciones tienen estos comités de cara a la galería, para aparentar que les preocupa el tema del bien y del mal, pero que su principal función, en la práctica, es asesorar a la compañía para que no incurra en riesgos que les puedan acarrear responsabilidades pecuniarias. El problema es que en el campo de la inteligencia artificial, al contrario que en el de la medicina, por ejemplo, a penas hay leyes que regulen qué se puede y qué no se puede hacer, por lo que dicho comité tendría, en este sentido, muy poco trabajo. Demasiada incertidumbre.

Los profesores concluyen que Google tiene una gran oportunidad de mostrar al mundo su compromiso con la ética, si le da al Comité la importancia que debe tener. Pero también nos dicen que el problema, a estas alturas, no es solo de Google. Es un problema, un nuevo problema, que afecta al cada vez más conectado mundo en el que vivimos, y que viene de la práctica ausencia de regulación en el campo de la inteligencia artificial, donde un simple "todo vale" podría acabar llevándonos a un "no sabemos dónde".

Demasiado nuevo, demasiado rápido y demasiado confuso. Pero fascinante.

ExtremeTech: Skynet.
Forbes: Inside Google's Mysterious Ethics Board,


No hay comentarios:

Publicar un comentario