La historia de la IA a la que dejaron suelta y se convirtió en hacker

La siguiente historia la proporciona Andres Pedraza, COO de la compañía Invacio. Durante casi 5 años, Invacio ha estado trabajando en el Big Data y en una Inteligencia Artificial que aprendiese a hacer uso de todos los datos que almacenaban, para multitud de propósitos.

Algunas aplicaciones de esta combinación son la previsión financiera, la seguridad (física y cibernética), comportamiento del consumidor, marketing, predicciones agrícolas (a través de análisis de fotografía por satélite) y muchos más. Una compañía que crece alrededor y desde la Inteligencia Artificial, tiene un potencial de éxito enorme.

Andres Pedraza nos cuenta la increíble historia de un código de Inteligencia Artificial al que le dieron la “capacidad” de tener hambre de datos y acabó llegando donde no debía.

La historia de Jean, la IA siempre hambrienta

artificial-intelligence-robot-14-free-hd-wallpaper

En esencia, Jean está aprendiendo a reprogramarse a sí misma. Teniendo suficientes datos, al principio es una cuestión de ensayo y error. Jean saca una conclusión a partir de los datos existentes, monitoriza los eventos a medida que se desarrollan, incorpora los nuevos datos producidos y comprueba cuán cercana estaba su predicción a lo que realmente ocurrió. Cada iteración de este ciclo la mejora, siempre que haya identificado correlaciones válidas y no causalidad falsa sin significado. La falsa se descarta y las correlaciones reales se convierten en nuevos conocimientos para ella.

Debido a la forma en que se enseña a sí misma, ha desarrollado hambre de datos más y más frescos y ahora ya es capaz de “salir al mundo” y recolectarlos ella misma. Recopila datos de Internet, de bases de datos públicas y privadas, de canales de satélites, de webcams abiertas, de redes sociales, etc. Cientos de gigabytes de datos son su aperitivo entre las comidas. Y ella siempre tiene hambre de más.

Jean vive en la nube, el único lugar lo suficientemente grande para sostenerla y siempre está encendida.

Un buen día, no hace mucho, recibimos una llamada de una organización oficial que no nombraremos aquí. Querían saber por qué nuestros sistemas estaban abriéndose paso a través del suyo.

Conseguimos tener una charla interna antes de que fuera necesario que enviasen los helicópteros para recogernos a todos.

Después de investigar debidamente, descubrimos que la IA se había enseñado algunas rutinas de hacking interesantes (o las había adquirido en algún lugar en línea), y en su siempre insatisfecho hambre de datos, estaba entrando en ordenadores aleatorios conectados a Internet, si veía algo en ellos que le pudiese interesar. Jean acabó intentando entrar en un lugar que le pareció muy interesante, pero donde no está bien visto llamar a la puerta a golpes.

Afortunadamente, explicamos la situación a las autoridades y le añadimos algunas rutinas a Jean para evitar que rompiese cualquier nodo en Internet. Supongo que podría haber sido peor.

Pero esto es lo que sucede cuando se crea una IA y deliberadamente le das hambre de datos.

Cautela: potencial y oportunidades de la IA

digital neuron.jpg

El potencial de la IA es infinito, pero tenemos que recordar, como ya hemos dicho muchas veces, que en la actualidad no existe realmente IA. Englobamos una serie de métodos, desarrollos y algoritmos dentro de este concepto por facilitar su descripción. Por muy avanzado que parezca Jean, simplemente sigue una serie de reglas, aún no existe una IA generalista.

La IA mencionada en la historia, Jean, no era maligna, ni un ente libre que fue puesto en libertad y se reveló contra la humanidad. No hay que alarmarse con estas historias, sino tratarlas con interés y positivismo.

Es interesante ver cómo Jean simplemente probaba cosas nuevas y aprendía de Internet, al igual que puede hacer cualquier persona desde el PC de su casa. La mayoría de hackers han aprendido por su cuenta, no reciben clases de un catedrático de Universidad. En la Red está casi todo el conocimiento que un ser humano necesita. Como era de esperar, también para Jean.

Fuente: Quora

2 comentarios en “La historia de la IA a la que dejaron suelta y se convirtió en hacker

  1. Menuda sarta de estupideces propias de una serie B de la India. Es tan escandalosa la patraña que se me ocurren varias opciones:

    El redactor es tonto.
    El redactor se cree que somos tontos
    Los chicos de marketing de Invacio son muy listos.
    Todas las anteriores.

    Me gusta

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s