Existe peligro de que la Inteligencia Artificial se nos salga de las manos

Hoy quiero platicarles acerca de una reunión histórica que llevó a cabo La Asociación para el Fomento de la Inteligencia Artificial de Estados Unidos, la AAAI, y también hacer una refexión sobre la nueva propuesta de la tarjeta de indentidad biométrica que propuso el Presidente Calderón. Aquí está la liga al podcast:Existe el peligro que la inteligencia artificial se nos salga de las manos

Texto:

Acaban de salir publicados la semana pasada, algunas de las propuestas de una reunión histórica que llevó a cabo en febrero, La Asociación para el Fomento de la Inteligencia Artificial de Estados Unidos, la AAAI, en el centro de convenciones Asilomar, en California.

El recinto donde escogieron realizar su encuentro esta lleno de simbolismo. Resulta que en año1975, un grupo de destacados biólogos, hicieron un encuentro aquí, para hablar acerca de la ingeniería genética y las implicaciones morales, que debería considerar la humanidad, ante las nuevas capacidades adquiridas para modificar la vida.

En esta ocasión fue un grupo de destacados científicos que se reunió para discutir las implicaciones morales, que conlleva la nueva capacidad adquirida a través de ciencia de la inteligencia artificial, para modificar el desarrollo y futuro de la raza humana.

La junta fue presidida por el Dr. Eric Horvitz, que además es el científico investigador principal de Microsoft. Él dice que en los últimos años los tecnologiítas como Ray Kurzweil han liderando un movimiento que tiene casi implicaciones religiosas, acerca de la utopía que brindará la inteligencia artificial a este nuevo siglo.

Cómo algunos de ustedes saben, soy “fan” de Ray Kurzweil, uno de científicos inventores, más apasionado sobre el tema de “la singularidad”, que él define como el momento en el cual se fundirá la tecnología y la biología, y que el prevé sucederá por ahí de mediados de este siglo. Ray señala que a través de la de la computadora el ser humano ha desarrollado una inteligencia, que es más inteligente que el proceso evolutivo que lo desarrolló. Y yo estoy totalmente en acuerdo con él. Estamos frente a un hito en la historia de la humanidad, donde la tecnología juega un papel fundamental.

Y es precisamente por eso que aplaudo este postura de prudencia de la AAAI para buscar un contrapeso a la euforia. El reporte del encuentro señala que estamos dedicándole demasiado tiempo al desarrollo de capacidades y no suficiente al tema de la seguridad. Específicamente recomiendan que antes de poder lanzar al mercado nuevos robots, estos deberán ser sometidos a análisis  éticos y clínicos, como sucede con nuevas drogas.

Nos dicen que los sistemas en la actualidad ya han adquirido un nivel de indestructibilidad comparable a una cucaracha. Y que si no hacemos nada, es posible que el ser humano pierda el control sobre los sistemas inteligentes, y que estos pongan de cabeza diversos aspectos de nuestra vida económica, social, legal y sobre todo moral.

Para dar un ejemplo, hace algunas semanas hable del plan estratégico de DARPA, la agencia de investigación avanzada de defensa de Estados Unidos, y de algunos de los impresionantes adelantos tecnológicos que esta financiando.

Veamos ahora uno de ellos a través de los ojos del encuentro, y las implicaciones morales que conllevan.

Hoy es una realidad que ya existen aviones robot, con la capacidad quirúrgica de identificar y matar a seres humanos.

Los primeros de estos aviones a control remoto conocidos con “depredadores silenciosos” fueron utilizados en Bosnia, en los años noventa. Hoy, hay una flotilla “oficial” de 197 depredadores, que son utilizado rutinariamente en Irak y Afganistán, para labores de espionaje y bombardeo.

Detengámonos un momento a pesar en las implicaciones morales de construir, y liberar máquinas, que con absoluta precisión y frialdad  disponen de vidas humanas. Hoy estas máquinas siguen bajo el control de los seres humanos. Pero dentro de poco, estas maquinas asesinas empezarán a tomar decisiones autónomas  en base a una serie de instrucciones programadas que les faculten decidir y actuar.

Y también es posible que dentro de poco, empezamos a ver aplicaciones similares en el mundo civil. La empresa Sur Coreana, Samsung, ya ha desarrollado centinelas robots para puestos fronterizos, con capacidad de disparar a matar. Y no es descabellado pensar, que si no existe control sobre estas tecnologías, podríamos estar viendo en breve guardaespaldas robots, con capacidad de tirar a matar, en manos de buenos y de malos.

Si, es Dantesco, pero cierto. Y es por eso que este grupo de científicos, está alzando la voz para enfrentar los riesgos latentes del  avance de la inteligencia artificial no controlada. Saben que el futuro no se puede, ni se debe parar, y que hay que  afrontar los avances tecnológicos con inteligencia y sentido humano.

Y hablando de tecnología, hace unos días el Presidente Calderón lanzó la propuesta de un célula de identidad biométrica. Aplaudo, esta iniciativa que puede revolucionar nuestro registro civil y ofrecer extraordinarias ventajas para la identificación individual y la administración de la relación entre el gobierno y el ciudadano.

Y es aquí donde el aprendizaje de una iniciativa como la que propone la Asociación de Inteligencia Artificial de Estados Unidos, viene como anillo al dedo a la discusión en México. La tarjeta de identidad ciudadana es una extraordinaria oportunidad para impulsar a México a través de sistemas inteligentes y poderosos, que pueden brindar certidumbre y transparencia a la relación gobierno-ciudadano. Pero hay que asegurarnos que el diseño de este sistema contenga los candados necesarios para proteger la integridad de buen ciudadano, al mismo tiempo que transparente los abusos.

No cabe duda que son tiempos importantes. Tiempos en los cuales hay que echarnos para delante como sociedad y gobierno y encontrar la forma en la cual si se puede, y sobreponernos a temores y vicios del pasado, que tratar de frenar un futuro que ya llegó.

Anuncios

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s

A %d blogueros les gusta esto: