Inteligencia artificial, fantasía humana
Por Redacción; 10 Aug, 2009.
En Lance Ulanoff, Opinión.
La idea de ciertas personas, e incluso científicos, de que se van a enfrentar los humanos contra los robots en una suerte de batalla infernal por el control global debe detenerse. Lo que empeora las cosas es el hecho de que ahora tenemos una bola de doctos científicos versados en computación que discuten los riesgos de que la inteligencia artificial cause problemas. Tengo que decirles que a mí me preocupa más que la falta de inteligencia cause problemas.
De acuerdo con un artículo de John Markoff, del New York Times, hace poco se reunieron unos científicos en Asilomar Conference Grounds en una conferencia que trataba de la inteligencia artificial. Si entendí bien, el tema central fue la discusión de los peores escenarios de la inteligencia robótica. ¿Qué tal si los robots aprendieran a falsificar nuestras voces? ¿Qué tal si el malware y los virus se apoderaran de todas las computadoras? ¿Es peligroso un robot que finja empatía (como en lo personal creo que mis doctores de carne y hueso han fingido sentir empatía por mí, tendría que decir que esto no es peligroso)?
Markoff señala que los organizadores del evento de la IA (la Association for the Advancement of Artificial Intelligence) eligió como sede Monterey Bay, California, específicamente por otra conferencia que se celebró ahí hace más de 30 años. En aquel entonces los asistentes charlaron, entre otras cosas, de frutas y vegetales modificados genéticamente. Qué bueno que lo hicieron. Luego de la conferencia, todos volvimos a nuestro juicio y dejamos de comer deliciosas manzanas realmente rojas, plátanos perfectamente amarillos y jitomates gigantescos. En realidad no lo hicimos. Lo que quiero decir es que creo que la conferencia de 1975 fue como una especie de llamada de atención. Si eso no hubiera ocurrido, hoy en día tal vez habría melones trastornados en nuestras mesas, al acecho de borregos o de niños que comerse.
Bueno, sí, estoy exagerando. La conferencia de 1975 tocó sólo de manera tangencial los productos genéticamente modificados. En términos generales se trató de los riesgos potenciales inherentes a la ingeniería genética. Markoff señala que en realidad la conferencia fomentó mayores estudios científicos. Así que fue una especia de curso de corrección de la investigación del ADN. Me gustaría poder decir que pensé que el resultado de esta conferencia de IA sería igual de positivo.
Lo que me preocupa es que tantísima gente opina que necesitamos una especie de corrección similar del desarrollo de la robótica: si no controlamos la AI, ésta nos controlará. Casi todos los científicos de esta área con quienes he hablado me han asegurado que un robot que posea consciencia y otros atributos humanos aún se encuentra al menos a 50 años de distancia. La singularidad que todos temen (que la inteligencia robótica sobrepase a la humana y que perdamos el control del mundo) no la podremos ver en este siglo o quizá nunca. Confío en que no existirán ni los Terminators ni robots criados domésticos o sexuales, ni otros que de verdad comprendan o puedan mostrar emociones semejantes a las humanas en las próximas generaciones.
Los robots humanoides y antropomorfos no son los únicos que preocupan a todos, incluidos los investigadores presentes en la conferencia de la AAAI. Como lo señala el artículo, la robótica y la IA ya están por doquier. La tecnología está presente en los hogares, los automóviles, la industria e incluso en la guerra. Al parecer los científicos (de hecho, gente muy talentosa) de esta conferencia de IA están inquietos porque, en cualquier momento, los frenos podrían decidir fallar y tratar de matarnos, o porque la aspiradora robótica Roomba de iRobot podría, en un momento de despecho, aspirar al gato en lugar de limitarse sólo al pelo que el felino deja por toda la alfombra.
También se discutió en la conferencia una amenaza mayor y quizá más siniestra: el malware y los virus pueden convertir las computadoras en bots, o, como Markoff dice, en “gusanos y virus que desafíen el exterminio”. Markoff se refiere a los virus polimórficos, que como que pueden cambiar a voluntad. En realidad sólo pueden transformarse de manera aleatoria. Así que se programa el malware para que se modifiquen para evitar la detección; pero no evade activamente un tipo específico de detección. Ambas acciones no están relacionadas. Intentamos y detectamos de una forma y el malware se transforma en otra que el software no está listo para reconocer (todavía). El virus y el malware se modificarían sin importar si tratamos de detectarlos. Eso no es inteligencia artificial, sino únicamente programación inteligente.
La opinión de un experto de verdad
¿Y qué tal si me equivoco en cuanto a la IA y la robótica? ¿Qué tal si sí debemos preocuparnos en este momento? He cubierto el tema de la robótica durante años; pero en realidad no laboro en la industria. Así que decidí platicar con alguien que sí lo hace. Colin Angle es cofundador, presidente y CEO de iRobot. Esta última empresa hace dos de los robots mejor conocidos en los EE.UU. si no es que en el globo: el Roomba y el PackBot. Este último se encuentra actualmente en uso en las guerras de Irak y Afganistán. Angle fue especialmente tajante en su evaluación del artículo del New York Times: “Me parece un poco injusto y no estoy seguro de cuál era el propósito del artículo.” En cuanto a la conferencia, me comentó: “No tengo problemas con la gente que se preocupa por esta clase de cuestiones; pero estamos lejísimos del momento en que deban establecerse estas directrices.”
Al igual que yo, Angle se siente frustrado por el modo en que las fantasías de la gente abruman su sentido común. Sin embargo, cuando se trata de robótica, las cosas siempre han sido así. “Los dizque futuristas se han equivocado plenamente en cuanto a los robots durante 50 años”, me dijo Angle. Me explicó que, cuando salían Los Supersónicos en la tele, Robotina era parte del programa porque la gente creía verdaderamente que contaría con robots sirvientes en el hogar en unos cuantos años. Eso fue en 1962. “Ahora contamos con el Roomba, que es muy distinto de Robotina”, añadió.
Angle sí me aseguró que las directrices militares vigentes para los robots militares, que requieren un soldado que esté a su mando, son algo positivo y necesario, y que se trata de algo en que Angle no está interesado en modificar.
Como me lo aseguró Angle, no es mala idea contar con gente que medite estas cosas; pero la AAAI debería trabajar en cómo impulsar el desarrollo de la inteligencia artificial a un ritmo más elevado. Ya basta de estas demostraciones de ansiedad y de la necesidad de impedir amenazas inexistentes. Escuchen al doctor Eric Horvitz, investigador de Microsoft: “… tenemos que realizar algún tipo de declaración o valoración… la gente está preocupadísima por el surgimiento de las máquinas inteligentes.”
Horvitz debería ser más prudente. Para empezar, los robots de la actualidad simplemente no son tan inteligentes como la gente lo supone. Angle me dijo: “estas máquinas casi no saben nada de su entorno, salvo que existe una pared y dónde podría estar moviéndose algo, de una manera muy rudimentaria.” En cuanto a la IA por la que Markoff y los asistentes a la conferencia se preocupan tanto, eso básicamente también se encuentra en el terreno de la ciencia ficción. “La cantidad de comprensión y consciencia del entorno requerida para hacer que un robot se forme una opinión realista de qué es bueno y qué malo está muy lejana”, sostuvo Angle.
¿Y por qué todos critican a los robots? Durante siglos hemos vivido con unos no tan inteligentes sino más bien tontos. Han provocado algunos accidentes, mutilaciones y desastres indiscutibles, generalmente a manos de los seres más conscientes del planeta: los humanos. No me puedo ni imaginar que las máquinas inteligentes resulten ser peores.–Lance Ulanoff
Entradas similares:
- El futuro de los robots
- La forma de salvar nuestra industria
- Lo que será noticia en la industria tecnológica en 2010
- Los ganadores y perdedores de la industria tecnológica en 2009
- Predicciones sobre realidad aumentada
Wow, ahora entiendo en que se basaron para la canción “Comete tus vegetales” de 31 minutos…jejeje…en lo personal creo que al pasao que van las cosas, tardaremos mucho en ver…es más no creo que a varias generaciones les toque ver una situación como en Matrix (a menos que ya estemos en ella jejeje).