"LA INTELIGENCIA ARTIFICIAL ES LA CIENCIA QUE INVESTIGA PARA QUE LAS MÁQUINAS HAGAN COSAS QUE REQUERIRÍAN INTELIGENCIA SI HAS HUBIERA HECHO UN HUMANO" (MARVIN MINSKY)
LEYES DE LA ROBÓTICA
Marvin Minsky
INTELIGENCIA ARTIFICIAL
Conjunto de técnicas que tienen como único fin perfeccionar una tarea concreta.
- La IA, como cualquier otra tecnología, ha sido creada por personas y para personas. La confianza que depositamos en un farmaceútico, la enfermera o el profesor no pueden sustituirse por un algoritmo, por muy rápido y conveniente que éste sea.
- Es posible que ésta ser la era en que la IA pase de ser un problema exclusivo del mundo de las ciencias de la computación a ser una cuestión que tenga que ser abordada por otros campos como la filosofía, la economía o la política.
(Isaac Asimov - 1942)
1ª,. Un robot no hará daño a un ser humano ni permitirá, por inacción, que el ser humano sufra daño.
2ª.- Un robot debe obedecer las órdenes dadas por los humanos, excepto si están en conflicto con la primera ley.
3ª.- Un robot debe proteger su propia existencia en la medida que esta protección no entre en conflicto con la primera y segunda ley.
Isaac Asimov
/**************************************************************************/
MÉTODO CIENTÍFICO.- Se basa en hacer una observación, formular una hipótesis, hacer unos experimentos y, según el resultado, establecer leyes o plantear una nueva hipótesis.
/**************************************************************************/
ALGORITMO
- Conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un número finito de pasos elementales. (Ricardo Mari, autor del libreo De Euclides a Java, la historia de los algoritmos y los lenguajes de programación -editorial Nívola-).
- "Tú actúas en base a lo que te presentan, a lo que ves. Ese es tu mundo. Pero en realidad marcan un patrón de consumo que te llevará a determinados lugares. El algoritmo filtra una representación del mundo, y eso es aplicable a cualquier plataforma." (Joana Moll. Artista e investigadora en cuestiones de crítica tecnológica).
- "Tú actúas en base a lo que te presentan, a lo que ves. Ese es tu mundo. Pero en realidad marcan un patrón de consumo que te llevará a determinados lugares. El algoritmo filtra una representación del mundo, y eso es aplicable a cualquier plataforma." (Joana Moll. Artista e investigadora en cuestiones de crítica tecnológica).
- El algoritmo tiene que ser finito, y que ejecute las órdenes e instrucciones de manera sistemática, es decir, que es ciego ante lo qu está haciendo, y que los pasos son los que opera son elementales.
- Un algoritmo no es una caja negra, y sus resultados no se deben asumir sin cuestionarlos.
- Los algoritmos no son entes autónomos, sino que detrás hay personas.
- El trabajo de los programadores informáticos consiste en traducir los problemas del mundo a un lenguaje que una máquina pueda entender.
- Un programa de ordenador es un algoritmo escrito en un lenguaje de programación que al final acaba convirtiendo en miles de sencillas operaciones que se realizan con corriente eléctrica en el procesador, corrientes representadas por los unos y los ceros, los dígitos que caracterizan lo digital.
- Los algoritmos sin supervisión humana crearon conflictos: 6 de mayo de 2010, Flask Crack, desplome de la bolsa de 1000 puntos, el 9%. El libro "The making of a fly", de Peter Lawrence alcanzó el precio de 1700 millones de dólares en Amazón para luego subir unas horas más tarde a 23.700 millones de dólares más gastos de envío. Son dos ejemplos de funcionamiento de un algoritmo que fijaba los precios de manera autónoma y automática.
- Hay algoritmos que forma ya parte del consejo de empresa. VITAL ocupa, desde mayo de 2014, uno de los cinco sillones directivos de Deep Knowlegde Ventures, empresa de capital de riesgo de Hong Kong especializada en medicina regenerativa. El algoritmo recomienda inversiones después de analizar enormes cantidades de datos y ensayos clínicos. Tiene derecho a voto en la cúpula de esa corporación.
- Tal vez el algoritmo más famoso del mundo, después del de la multiplicación, sea el de Google, creado en 1998 llamado "Pagetank", que rastreaba la web y daba resultados de búsqueda ordenados por su importancia. Medía la importación de la web por la cantidad de webs que estaban enlazadas a ellas.
- El algoritmo construye un universo cultural ajustado y complaciente con el gusto del consumidor, que puede avanzar hasta llegar siempre a lugares reconocibles.
- El algoritmo, sostienen sus críticos, nos hace aburridos, previsibles, y empobrece nuestra curiosidad cultural.
- El algoritmo construye un universo cultural ajustado y complaciente con el gusto del consumidor, que puede avanzar hasta llegar siempre a lugares reconocibles.
- El algoritmo, sostienen sus críticos, nos hace aburridos, previsibles, y empobrece nuestra curiosidad cultural.
- El usuario acepta ceder los datos a cambio de un servicio gratuito. Los algoritmos usan información para determinar los intereses de los usuarios.
- Un algoritmo es una serie de pasos que describen el proceso de búsqueda de una solución a un problema concreto. Y un algoritmo genético es cuando se usan mecanismos que simulan los de la evolución de las especies de la biología para formular esos pasos.
- "Los algoritmos ha sido diseñados para resolver problemas muy concretos, pero no para comprender qué está sucediendo en su entorno; sólo ven señales y aplican la misma solución siempre. Las máquinas son totalmente autistas y darles comprensión de su entorno es muy complicado." (José Manuel Molina, grupo I.A. aplicada de la Universidad Carlos III de Madrid).
/**************************************************************************/
PARADOJA DE MORAVEC
/**************************************************************************/
- "Es relativamente fácil conseguir que los ordenadores muestren capacidades similares a las un ser humano adulto en un test de inteligencia o a la hora de jugar a las damas, y muy difícil lograr que adquieran las habilidades perceptivas y motoras de un bebé de un año." (Hans Moravec, investigador de robótica austriaco en colaboración con Rodney Brooks y Marvin Minsky entre otros).
/**************************************************************************/
FRASES Y TEXTOS
- Circula ya la idea de que hay que deshabituarse en el uso de unas plataformas diseñadas para que pasemos el máximo tiempo posible en ellas, que crean adicción; las redes (combinadas con el teléfono móvil), como invento contaminante, adictivo, el nuevo tabaco. Un problema de salud pública. Un problema de salud democrática.
- El modelo de negocio también está detrás del problema de la adicción a las redes, diseñadas para enganchar al usuario. Algún día puede que tengan que responder por ello, como lo tuvo que hacer la industria del tabaco.
- Este fenómeno se reproduce en redes sociales como Facebook, donde el usuario se ve aislado en un entorno de información que el algoritmo deduce que querríamos ver basándose en nuestros círculos de amistad y en el feedback de búsquedas anteriores.
- Filtrar la información en redes como Facebook o en búsquedas a través de Google pueden configurar nuestra manera de pensar.
- Este fenómeno se reproduce en redes sociales como Facebook, donde el usuario se ve aislado en un entorno de información que el algoritmo deduce que querríamos ver basándose en nuestros círculos de amistad y en el feedback de búsquedas anteriores.
- Filtrar la información en redes como Facebook o en búsquedas a través de Google pueden configurar nuestra manera de pensar.
- "Mientras las compañía petrolíferas y de minería explotan el medio ambiente, las redes sociales explotan el ambiente, que, al influir en el modo en que la gente piensa y se comportan, implican un riesgo." (George Soros).
- "Las mejores mentes de mi generación se dedican a pensar cómo hacer que la gente pinche anuncios. Es un asco." (Jeff Hammerbacher, antiguo jefe de datos de Facebook).
- "No entiendo por qué no hay más gente preocupada por esta cuestión: la inteligencia artificial es una ameneza real." (Bill Gates).
- "Podría ser el final de la raza humana: los robots podrían empezar a rediseñarse a sí mismos a una velocidad a la que nosotros, los humanos, no podríamos competir." (Stephen Hawking).
- "No dirigimos el futuro porque seamos las criaturas más fuertes del planeta, sino porque somo los más listos. Con lo cual, en cuanto haya algo más inteligente que nosotros, nos dominará." (James Barrat).
- "El fantasma que le falta a la máquina es el sentido común." (Héctor Levesque).
- "Los sistemas que deberían asustarnos son los que tienen autonomía sin sentido común." (Héctor Levesque).
- "Una mente artificial sufre apofenia: conectan patrones entre datos sin saber qué les aporta. Ese es el verdadero estado de la inteligencia artificial hoy día." (Klaas Bolihoefer).
- "En el momento que sepamos cómo hacer máquinas inteligentes, lo haremos, y para entonces debemos saber cómo controlarlas. Si tienes un agente artificial con objetivos distintos de los tuyos, cuando se vuelve suficientemente inteligente, es capaz de anticipar tus acciones y de hacer planes teniendo en cuenta los tuyos, lo cual podría incluir esconder sus propias capacidades de modo estratégico." (Nick Bostrom).
- "Hay un 90% de posibilidades de que entre 2075 y 2090 haya máquinas tan inteligentes como los humanos. En la transición hacia esa nueva era habrá que tomar decisiones. Inocular valores morales a las máquinas, tal vez. Evitar que se vuelvan como nosotros." (Nick Bostrom).
- "Los datos son un reflejo de la realidad. Si la realidad tiene prejuicios, los datos también". (Richard Benjamins, embajador de Big-Data en I.A. de Telefónica).
- "Las personas tienen derecho a preguntar cómo un sistema inteligente sugiere ciertas decisiones y no otras, y las empresas tienen el deber de ayudar a las personas a entender el proceso de decisión". (Francesca Rossi, directora de ética en I.A. de IBM).
- "Nos imaginamos que hay un pequeño cerebro humano dentro de un ordenador, pero no, sólo es programación y matemáticas." (Meredith Broussard, exprogramadora y autora del libro Artificial Unintilligence, Estupidez Artificial).
- "En un futuro visible, el rango de problemas que podrán manejar las máquinas se igualará con el de la mente humana." (Herbert Simon, economista, década de los años 50 del siglo XX).
- "La principal lección de treinta y cinco años de investigación en I.A. es que los problemas más difíciles son fáciles y los problemas fáciles son difíciles." (Steven Pinker, psicólogo).
- "Las mejores mentes de mi generación se dedican a pensar cómo hacer que la gente pinche anuncios. Es un asco." (Jeff Hammerbacher, antiguo jefe de datos de Facebook).
- "No entiendo por qué no hay más gente preocupada por esta cuestión: la inteligencia artificial es una ameneza real." (Bill Gates).
- "Podría ser el final de la raza humana: los robots podrían empezar a rediseñarse a sí mismos a una velocidad a la que nosotros, los humanos, no podríamos competir." (Stephen Hawking).
- "No dirigimos el futuro porque seamos las criaturas más fuertes del planeta, sino porque somo los más listos. Con lo cual, en cuanto haya algo más inteligente que nosotros, nos dominará." (James Barrat).
- "El fantasma que le falta a la máquina es el sentido común." (Héctor Levesque).
- "Los sistemas que deberían asustarnos son los que tienen autonomía sin sentido común." (Héctor Levesque).
- "Una mente artificial sufre apofenia: conectan patrones entre datos sin saber qué les aporta. Ese es el verdadero estado de la inteligencia artificial hoy día." (Klaas Bolihoefer).
- "En el momento que sepamos cómo hacer máquinas inteligentes, lo haremos, y para entonces debemos saber cómo controlarlas. Si tienes un agente artificial con objetivos distintos de los tuyos, cuando se vuelve suficientemente inteligente, es capaz de anticipar tus acciones y de hacer planes teniendo en cuenta los tuyos, lo cual podría incluir esconder sus propias capacidades de modo estratégico." (Nick Bostrom).
- "Hay un 90% de posibilidades de que entre 2075 y 2090 haya máquinas tan inteligentes como los humanos. En la transición hacia esa nueva era habrá que tomar decisiones. Inocular valores morales a las máquinas, tal vez. Evitar que se vuelvan como nosotros." (Nick Bostrom).
- "Los datos son un reflejo de la realidad. Si la realidad tiene prejuicios, los datos también". (Richard Benjamins, embajador de Big-Data en I.A. de Telefónica).
- "Las personas tienen derecho a preguntar cómo un sistema inteligente sugiere ciertas decisiones y no otras, y las empresas tienen el deber de ayudar a las personas a entender el proceso de decisión". (Francesca Rossi, directora de ética en I.A. de IBM).
- "Nos imaginamos que hay un pequeño cerebro humano dentro de un ordenador, pero no, sólo es programación y matemáticas." (Meredith Broussard, exprogramadora y autora del libro Artificial Unintilligence, Estupidez Artificial).
- "En un futuro visible, el rango de problemas que podrán manejar las máquinas se igualará con el de la mente humana." (Herbert Simon, economista, década de los años 50 del siglo XX).
- "La principal lección de treinta y cinco años de investigación en I.A. es que los problemas más difíciles son fáciles y los problemas fáciles son difíciles." (Steven Pinker, psicólogo).
- "Si Facebook te filtraba la información, al final sólo te muestra una visión de los hechos; te radicalizas." (Mari Luz Congosto, investigadora del grupo de telemática de la Universidad Carlos III).
- "El usuario de una plataforma como Facebook. no ve todo lo que publican sus amigos. Ve lo que la máquina elige conforma a una fórmula que Facebook no revela. Te muestra lo que quiere el algoritmo, no sabemos con qué objetivo, si perverso o no. Pierdes parta de libertad y la plataforma hace negocio con eso. Manipula lo que la gente lee, marca el camino." (Mari Luz Congosto, investigadora del grupo de telemática de la Universidad Carlos III).
- "Estos sistemas se basan en el pasado para construir el futuro. La primera dificultad es conseguir una masa crítica para que tengamos más datos y las proyecciones sean mejores. Pero además corren el riesgo de quedarse en una misma área de recomendación. En el consumo cultural, el peligro está en la uniformización del gusto, lo que llamamos el filtro burbuja. Y así se van creando comportamientos más estándares." (Ramón Sangüesa. Coordinador de Data Transparency Lab).
- "Los ordenadores, por muy complejos que sean, carecen de capacidad para entender por qué haces las cosas". (Eduardo Castello Ferrer. Investigador postdoctoral, especializado en robótica en el MIT -Massachusetts Institute of Technoloy-).
- "Los robots ocuparán el lugar que queramos los humanos, pero para ello tendrán que sernos útiles ala mayoría, no rentables solo a unos pocos. Las desigualdades sociales, el desempleo, la pobreza, no la generan los robots sino las políticas neoliberales." (Bruno Estrada López, economista).
- "Es fácil conseguir que las computadoras muestren capacidades similares a las de un ser humano adulto en pruebas de inteligencia, y difícil o imposible lograr que posean las habilidades perceptivas y motrices de un bebe de un año". (Miguel Lázaro, investigador español en I.A. de la empresa puntera Vicarious).
- El sentido común del ser humano sigue siendo necesario para poder llevar a cabo incluso hasta las tareas más sencillas fuera de un laboratorio.
- La única solución a muchos de nuestros problemas parece que sigue siendo el sentido común (humano) y no sólo la rapidez o conveniencia de un algoritmo.
- "Estos sistemas se basan en el pasado para construir el futuro. La primera dificultad es conseguir una masa crítica para que tengamos más datos y las proyecciones sean mejores. Pero además corren el riesgo de quedarse en una misma área de recomendación. En el consumo cultural, el peligro está en la uniformización del gusto, lo que llamamos el filtro burbuja. Y así se van creando comportamientos más estándares." (Ramón Sangüesa. Coordinador de Data Transparency Lab).
- "Los ordenadores, por muy complejos que sean, carecen de capacidad para entender por qué haces las cosas". (Eduardo Castello Ferrer. Investigador postdoctoral, especializado en robótica en el MIT -Massachusetts Institute of Technoloy-).
- "Los robots ocuparán el lugar que queramos los humanos, pero para ello tendrán que sernos útiles ala mayoría, no rentables solo a unos pocos. Las desigualdades sociales, el desempleo, la pobreza, no la generan los robots sino las políticas neoliberales." (Bruno Estrada López, economista).
- "Es fácil conseguir que las computadoras muestren capacidades similares a las de un ser humano adulto en pruebas de inteligencia, y difícil o imposible lograr que posean las habilidades perceptivas y motrices de un bebe de un año". (Miguel Lázaro, investigador español en I.A. de la empresa puntera Vicarious).
- El sentido común del ser humano sigue siendo necesario para poder llevar a cabo incluso hasta las tareas más sencillas fuera de un laboratorio.
- La única solución a muchos de nuestros problemas parece que sigue siendo el sentido común (humano) y no sólo la rapidez o conveniencia de un algoritmo.
- Lo que nos hace inteligentes a los humanos es que nosotros podemos fácilmente aprender algo y aplicarlo en muchos contextos diferentes. Las máquinas ahora necesitan ser entrenadas en contextos específicos.
- El aprendizaje profundo es un aprendizaje automático que permite a los ordenadores aprender a partir de ejemplos y construir sistemas inteligentes.
- Los ordenadores son diseñados por nosotros; no evolucionan solos.
- El problema es que el lenguaje de los ordenadores es literal, mientras que el lenguaje humano es ambiguo y complejo. Y todavía no existe un puente entre los dos.
- La dificultad de construir un lenguaje común entre humanos y máquinas reside en el hecho de que no queda claro para el sistema cuales son los objetivos de esa conversación.. Es como si los robots se preguntaran por qué un usuario querría hablar con ellos. Las personas hablan entre sí para cumplir una función social y las entidades no humanas que se han creado hasta ahora no tienen la capacidad de cumplir esa función.
- Mientras los seres humanos utilizan símbolos que conforman un lenguaje, esos símbolos no son necesariamente la forma más eficiente de comunicación entre máquinas.
- Los robots pueden pasar información entre ellos de otras maneras, utilizando series de números o combinando símbolos que no tienen sentido para el usuario humano.
- Los robots sólo entienden el lenguaje en un sentido particular cuando son explícitamente enseñados a hacerlo.
- El problema es que el lenguaje de los ordenadores es literal, mientras que el lenguaje humano es ambiguo y complejo. Y todavía no existe un puente entre los dos.
- La dificultad de construir un lenguaje común entre humanos y máquinas reside en el hecho de que no queda claro para el sistema cuales son los objetivos de esa conversación.. Es como si los robots se preguntaran por qué un usuario querría hablar con ellos. Las personas hablan entre sí para cumplir una función social y las entidades no humanas que se han creado hasta ahora no tienen la capacidad de cumplir esa función.
- Mientras los seres humanos utilizan símbolos que conforman un lenguaje, esos símbolos no son necesariamente la forma más eficiente de comunicación entre máquinas.
- Los robots pueden pasar información entre ellos de otras maneras, utilizando series de números o combinando símbolos que no tienen sentido para el usuario humano.
- Los robots sólo entienden el lenguaje en un sentido particular cuando son explícitamente enseñados a hacerlo.
- La inteligencia artificial no debe ser utilizada para reemplazar las decisiones que los seres humanos tomamos sobre asuntos delicados basándonos en juicios éticos. Por ejemplo, un ordenador no debería decidir quién debe, y quién no, salir en libertad condicional.
- Expertos como el profesor Ken Goldberg empiezan a vislumbrar un futuro en el que en lugar de que los humanos hablemos con los robots, sean los robots quienes nos llamen para pedir consejo ante una situación que no saben resolver.
- En la actualidad, estamos muy lejos de un sistema generalista, ya que las máquinas, por muy complejas que sean, siguen siendo incapaces de entender los problemas a los que se enfrentan (ningún ordenador es capaz de contestar a esta pregunta: ¿sabes qué estas haciendo?).
- Decisiones que antes eran tomadas por humanos, hoy en día son tomadas por sistemas de I.A.. Algunas relativas a la contratación de personas, la concesión de créditos, los diagnósticos médicos o incluso las sentencias judiciales.
- Los datos con que los algoritmos son entrenados están condicionados por nuestros conocimientos y nuestros prejuicios.
- Cualquier conductor que vea una señal de Stop a la que algún gracioso le ha puesto una pegatina que pone "odio", sabe que sigue siendo una señal de Stop y deba parar. En cambio, un coche autónomo será incapaz de reconocerla más del 60% de las veces y pasará de largo.
- Los dispositivos en I.A. han sido entrenados para ver patrones, y hacen falta solo sutiles cambios de simetría para desbaratarlos.
- En la actualidad, estamos muy lejos de un sistema generalista, ya que las máquinas, por muy complejas que sean, siguen siendo incapaces de entender los problemas a los que se enfrentan (ningún ordenador es capaz de contestar a esta pregunta: ¿sabes qué estas haciendo?).
- Decisiones que antes eran tomadas por humanos, hoy en día son tomadas por sistemas de I.A.. Algunas relativas a la contratación de personas, la concesión de créditos, los diagnósticos médicos o incluso las sentencias judiciales.
- Los datos con que los algoritmos son entrenados están condicionados por nuestros conocimientos y nuestros prejuicios.
- Cualquier conductor que vea una señal de Stop a la que algún gracioso le ha puesto una pegatina que pone "odio", sabe que sigue siendo una señal de Stop y deba parar. En cambio, un coche autónomo será incapaz de reconocerla más del 60% de las veces y pasará de largo.
- Los dispositivos en I.A. han sido entrenados para ver patrones, y hacen falta solo sutiles cambios de simetría para desbaratarlos.
/**************************************************************************/
JORDI SOLER, escritor
- " Los ordenadores han conseguido que la ciudadanía piense, opine, se exprese y actúe dentro del marco que establece la máquina."
- "La máquina que piensa por tí acaba contagiándote su forma de pensar."
- "Cada vez se escribe menos en mensajes más cortos que llegan más rápido; ya no importa la forma, la sintaxis, ni el estilo, ni la ortografía, lo que importa es que el mensaje, que es invariablemente urgente, llegue rápido, tan rápido que a veces ni siguiera hay que escribirlo, basta con insertar un emoticono."
- "La verdad, valor que a estas alturas del milenio ya ha perdido buen porcentaje de su jerarquía."
- "Los nuevos lectores ya son incapaces de orientarse entre las enormes hojas de papal de los periódicos, necesitan la eficacia del link y la velocidad y la ligereza con la que viajan de una noticia a otra."
- "La máquina nos adiestra cada día con la idea de que el éxito se mide por la cantidad, por el número."
- "¿Y a quién le importa decir la verdad cuando lo único que importa en el siglo XXI es que te crean? El gran triunfo de la máquina sobre nosotros no son las fake news, las mentiras que se multiplican hasta que se conviertan en verdad, sino la docilidad con la que nos hemos adaptado a ellas."
- "La máquina ha conseguido ... poner en entredicho la verdad y normalizar la mentira en la vida pública sin que nadie se escandalice."
- "La devaluación que ha sufrido la palabra, que ya vale poco si no va montada en un tuit."
/**************************************************************************/
DARÍO GIL - IBM
- "Mientras que los ordenadores tradicionales deben ser programados para determinadas tarea, los sistemas cognitivos aprenden de sus interacciones con los seres humanos a través de un lenguaje natural y por medio de algoritmos."
- "Hoy podemos construir una nueva clase de sistemas que pueden aprender, encontrar correlaciones, crear hipótesis a partir de esas correlaciones, y sugerir y medir acciones."
- "Watson (un ordenador que ganó al humano al juego de Jeopardy) no tiene consciencia de su existencia, no puede crear teorías ni elegir qué problemas debemos resolver en el mundo. Todo eso nos sigue correspondiendo a nosotros."
- "La cuestión que se ventila es una elección: seguridad con menos libertad o libertad sin seguridad."
RAMÓN LÓPEZ MÁNTARAS, director del Instituto en I.A. del C.S.I.C
- "Todos tendemos a no ver los límites de aquello que nos parece mágico."
- "La I.A. permanece atascada desde hace más de 50 años en una cuestión fundamental: ¿cómo dotar de sentido común a las máquinas? Ésta es una cuestión crucial si queremos lograr inteligencias artificiales de tipo general indistinguibles de la inteligencia humana."
- "Los investigadores en I.A. no ven ningún indicio que les lleve a poder afirmar que este problema puede ser resuelto."
- "Los sistemas de aprendizaje profundo (deep learning) son sumamente limitados, ya que únicamente son capaces de aprender a reconocer patrones analizando enormes cantidades de datos."
- "No es exagerado afirmar que, de hecho, no aprenden realmente nada en el sentido humano de lo que entendemos por aprender. En realidad no saben nada nuevo después de haber sido entrenados para adquirir una competencia."
- ""Olvido catastrófico: los sistemas de aprendizaje profundo pierden todo lo aprendido a partir del instante en que se les enseña algo nuevo.""
- "Si después de haber "aprendido" a jugar al Go entrenamos a un sistema de aprendizaje profundo a diferenciar entre perros y gatos monstrándole millones de imágenes de ambos, aprenderá perfectamente a distinguirlos, pero será incapaz de volver a jugar al Go. Habrá que volver a entrenarlo para que de nuevo "aprendiera a jugar al Go", y esto provocar´ria que a continuación sería incapaz de distinguir los gatos de los perros."
- "Creemos que la I.A. no tiene límites, cuando, de hecho, es extremadamente limitada y, lo que es más importante, no tiene casi nada que ver con la inteligencia humana."
- "La inteligencia humana es el referente principal de cara a alcanzar el objetivo de la I.A.".
- "Por muy sofisticada que llegue a ser la I.A. siempre será distinta de la humana, ya que el desarrollo mental que requiere toda inteligencia compleja depende de las interacciones con el entorno y esas interacciones dependen a su vez del cuerpo, en particular del sistema perceptivo y del sistema motor. Esto, sumado al hecho de que las máquinas muy probablemente no seguirán proceso de socialización y culturización, incide todavía más en que, por muy sofisticadas que lleguen a ser, las máquinas tendrán una inteligencia distinta a la nuestra."
- "Ninguna máquina debería tomas nunca decisiones de forma completamente autónoma ni dar consejos que requieran, entre otras cosas, de la sabiduría (producto de las experiencias humanas) o de valores humanos."
- "Los verdaderos peligros ya están aquí y tienen que ver con la privacidad (vigilancia y control masivo de la ciudadanía); con la autonomía de los sistemas de I.A. (armas autónomas, high frecuency trading en los mercados bursátiles); con la excesiva confianza acerca de sus capacidades (sustitución de personas por máquinas en prácticamente cualquier puesto de trabajo); con el sesgo de los algoritmos de aprendizaje y las consiguientes decisiones erróneas que ello supone; con la incapacidad de rendir cuentas cuando la decisión es errónea; y con la imposibilidad para explicar esas decisiones en un lenguaje comprensible para las personas."
- "Es cierto que hace años nadie podía predecir que la I.A. se pusiera tan de mota y se hablara tanto de los problemas que podía traer asociados, pero hace 42 años que el informático del MIT Joseph Weizenbaum escribió que nunca deberíamos dejar que los ordenadores tomasen decisiones importantes porque nunca tendrán cualidades humanas como la compasión y la sabiduría".
ANJANA SUSARLA, profesora asociada de Sistemas de la Informació. Universidad Estatal de Michigan
- " La I.A. puede ser asombrosamente buena para crear material engañoso, noticias falsas (fake news)."
- "Los investigadores ya saben que las noticias falsas en Internet se difunden más ampliamente y con mucha más rapidez que las verdaderas."
- "La información falsa resulta más atractiva o interesante en un mundo digital donde los usuarios tienen una atención limitada y están saturados de opciones de contenido."
- "Vértigo de la realidad: los ordenadores serán capaces de generar un contenido tan convincente que a los usuarios normales les resultará difícil saber qué es cierto y qué no lo es."
- "Quienes difunden noticias falsas manipulan el contenido de las entradas falsas para hacer que parezcan más auténticas."
- "El significado de palabras puede variar con el tiempo. Y la misma palabra puede significar cosas diferentes en ambientes progresistas o conservadores."
- "Los sistemas de aprendizaje automático están demostrando ya su espeluznante capacidad para crear lo que se denomina "deppfakes (falsificaciones profundas)": fotos, vídeos, mensajes."
- "La forma mejor de combatir la difusión de noticias falsas es acudir a las personas."
- "Consecuencias sociales de las noticias falsas: mayor polarización política, aumento del partidismo, erosión de la confianza en los medios de comunicación convencionales y en el gobierno."
- "La base emocional es el modo eficaz de llamar la atención de la ciudadanía."
- "Mientras que los ordenadores tradicionales deben ser programados para determinadas tarea, los sistemas cognitivos aprenden de sus interacciones con los seres humanos a través de un lenguaje natural y por medio de algoritmos."
- "Hoy podemos construir una nueva clase de sistemas que pueden aprender, encontrar correlaciones, crear hipótesis a partir de esas correlaciones, y sugerir y medir acciones."
- "Watson (un ordenador que ganó al humano al juego de Jeopardy) no tiene consciencia de su existencia, no puede crear teorías ni elegir qué problemas debemos resolver en el mundo. Todo eso nos sigue correspondiendo a nosotros."
- "La cuestión que se ventila es una elección: seguridad con menos libertad o libertad sin seguridad."
/**************************************************************************/
RAMÓN LÓPEZ MÁNTARAS, director del Instituto en I.A. del C.S.I.C
- "Todos tendemos a no ver los límites de aquello que nos parece mágico."
- "La I.A. permanece atascada desde hace más de 50 años en una cuestión fundamental: ¿cómo dotar de sentido común a las máquinas? Ésta es una cuestión crucial si queremos lograr inteligencias artificiales de tipo general indistinguibles de la inteligencia humana."
- "Los investigadores en I.A. no ven ningún indicio que les lleve a poder afirmar que este problema puede ser resuelto."
- "Los sistemas de aprendizaje profundo (deep learning) son sumamente limitados, ya que únicamente son capaces de aprender a reconocer patrones analizando enormes cantidades de datos."
- "No es exagerado afirmar que, de hecho, no aprenden realmente nada en el sentido humano de lo que entendemos por aprender. En realidad no saben nada nuevo después de haber sido entrenados para adquirir una competencia."
- ""Olvido catastrófico: los sistemas de aprendizaje profundo pierden todo lo aprendido a partir del instante en que se les enseña algo nuevo.""
- "Si después de haber "aprendido" a jugar al Go entrenamos a un sistema de aprendizaje profundo a diferenciar entre perros y gatos monstrándole millones de imágenes de ambos, aprenderá perfectamente a distinguirlos, pero será incapaz de volver a jugar al Go. Habrá que volver a entrenarlo para que de nuevo "aprendiera a jugar al Go", y esto provocar´ria que a continuación sería incapaz de distinguir los gatos de los perros."
- "Creemos que la I.A. no tiene límites, cuando, de hecho, es extremadamente limitada y, lo que es más importante, no tiene casi nada que ver con la inteligencia humana."
- "La inteligencia humana es el referente principal de cara a alcanzar el objetivo de la I.A.".
- "Por muy sofisticada que llegue a ser la I.A. siempre será distinta de la humana, ya que el desarrollo mental que requiere toda inteligencia compleja depende de las interacciones con el entorno y esas interacciones dependen a su vez del cuerpo, en particular del sistema perceptivo y del sistema motor. Esto, sumado al hecho de que las máquinas muy probablemente no seguirán proceso de socialización y culturización, incide todavía más en que, por muy sofisticadas que lleguen a ser, las máquinas tendrán una inteligencia distinta a la nuestra."
- "Ninguna máquina debería tomas nunca decisiones de forma completamente autónoma ni dar consejos que requieran, entre otras cosas, de la sabiduría (producto de las experiencias humanas) o de valores humanos."
- "Los verdaderos peligros ya están aquí y tienen que ver con la privacidad (vigilancia y control masivo de la ciudadanía); con la autonomía de los sistemas de I.A. (armas autónomas, high frecuency trading en los mercados bursátiles); con la excesiva confianza acerca de sus capacidades (sustitución de personas por máquinas en prácticamente cualquier puesto de trabajo); con el sesgo de los algoritmos de aprendizaje y las consiguientes decisiones erróneas que ello supone; con la incapacidad de rendir cuentas cuando la decisión es errónea; y con la imposibilidad para explicar esas decisiones en un lenguaje comprensible para las personas."
- "Es cierto que hace años nadie podía predecir que la I.A. se pusiera tan de mota y se hablara tanto de los problemas que podía traer asociados, pero hace 42 años que el informático del MIT Joseph Weizenbaum escribió que nunca deberíamos dejar que los ordenadores tomasen decisiones importantes porque nunca tendrán cualidades humanas como la compasión y la sabiduría".
/**************************************************************************/
ANJANA SUSARLA, profesora asociada de Sistemas de la Informació. Universidad Estatal de Michigan
- " La I.A. puede ser asombrosamente buena para crear material engañoso, noticias falsas (fake news)."
- "Los investigadores ya saben que las noticias falsas en Internet se difunden más ampliamente y con mucha más rapidez que las verdaderas."
- "La información falsa resulta más atractiva o interesante en un mundo digital donde los usuarios tienen una atención limitada y están saturados de opciones de contenido."
- "Vértigo de la realidad: los ordenadores serán capaces de generar un contenido tan convincente que a los usuarios normales les resultará difícil saber qué es cierto y qué no lo es."
- "Quienes difunden noticias falsas manipulan el contenido de las entradas falsas para hacer que parezcan más auténticas."
- "El significado de palabras puede variar con el tiempo. Y la misma palabra puede significar cosas diferentes en ambientes progresistas o conservadores."
- "Los sistemas de aprendizaje automático están demostrando ya su espeluznante capacidad para crear lo que se denomina "deppfakes (falsificaciones profundas)": fotos, vídeos, mensajes."
- "La forma mejor de combatir la difusión de noticias falsas es acudir a las personas."
- "Consecuencias sociales de las noticias falsas: mayor polarización política, aumento del partidismo, erosión de la confianza en los medios de comunicación convencionales y en el gobierno."
- "La base emocional es el modo eficaz de llamar la atención de la ciudadanía."
No hay comentarios:
Publicar un comentario