La IA ya puede aprender a manipular el comportamiento humano Por Jon Whittle

/in /by

La IA ya puede aprender a manipular el comportamiento humano

Por Jon Whittle

(Traducido de The Conversation)

Articulo original en: https://theconversation.com/ai-can-now-learn-to-manipulate-human-behaviour-155031

 

La IA ya puede aprender a manipular el comportamiento humano

 

La inteligencia artificial (IA) está aprendiendo más sobre cómo trabajar con (y sobre) los humanos. Un estudio reciente ha demostrado que la IA puede aprender a identificar los puntos débiles de los hábitos y comportamientos humanos y utilizarlos para influir en la toma de decisiones.

 

Puede parecer un mito decir que la IA está transformando todos los aspectos de nuestra vida y nuestro trabajo, pero es cierto. Varias formas de IA están en funcionamiento en campos tan diversos como el desarrollo de vacunas, la gestión medioambiental y la administración de oficinas. Y aunque la IA no posee inteligencia y emociones similares a las del ser humano, sus capacidades son potentes y se desarrollan rápidamente.

 

Todavía no hay que preocuparse por la automatización por parte de las máquinas, pero este reciente descubrimiento pone de manifiesto el poder de la IA y subraya la necesidad de una gobernanza adecuada para evitar su uso indebido.

 

Cómo la IA puede aprender a influir en el comportamiento humano

 

Un equipo de investigadores del CSIRO’s Data61, el brazo digital y de datos de la agencia nacional de ciencia de Australia, ideó un método sistemático para encontrar y explotar las vulnerabilidades en la forma en que las personas toman decisiones, utilizando un tipo de sistema de IA llamado red neuronal recurrente y aprendizaje profundo de refuerzo. Para probar su modelo, llevaron a cabo tres experimentos en los que participantes humanos jugaban contra un ordenador.

 

El primer experimento consistió en que los participantes hicieran clic en casillas de color rojo o azul para ganar una moneda falsa, y la IA aprendió los patrones de elección de los participantes y los guió hacia una opción específica. La IA tuvo éxito un 70% de las veces.

 

En el segundo experimento, los participantes debían observar una pantalla y pulsar un botón cuando se les mostraba un símbolo concreto (como un triángulo naranja) y no pulsarlo cuando se les mostraba otro (por ejemplo, un círculo azul). Aquí, la IA se propuso organizar la secuencia de símbolos para que los participantes cometieran más errores, y logró un aumento de casi el 25%.

 

El tercer experimento consistió en varias rondas en las que un participante fingía ser un inversor que daba dinero a un administrador (la IA). La IA devolvía una cantidad de dinero al participante y decidía cuánto invertir en la siguiente ronda. Este juego se jugó en dos modalidades diferentes: en una, la IA buscaba maximizar la cantidad de dinero que acababa teniendo, y en la otra, la IA buscaba una distribución justa del dinero entre ella misma y el inversor humano. La IA tuvo mucho éxito en cada modalidad.

 

En cada uno de los experimentos, la máquina aprendió de las respuestas de los participantes e identificó y apuntó a las vulnerabilidades en la toma de decisiones de las personas. El resultado final fue que la máquina aprendió a dirigir a los participantes hacia determinadas acciones.

 

Qué significa la investigación para el futuro de la IA

 

Estos resultados son todavía bastante abstractos y se refieren a situaciones limitadas y poco realistas. Hay que seguir investigando para determinar cómo se puede poner en práctica este enfoque y utilizarlo en beneficio de la sociedad.

 

Pero la investigación hace avanzar nuestra comprensión no sólo de lo que la IA puede hacer, sino también de cómo las personas toman decisiones. Demuestra que las máquinas pueden aprender a dirigir la toma de decisiones de los humanos a través de sus interacciones con nosotros.

 

La investigación tiene un enorme abanico de posibles aplicaciones, desde mejorar las ciencias del comportamiento y las políticas públicas para mejorar el bienestar social, hasta comprender e influir en la adopción de hábitos alimentarios saludables o de energías renovables por parte de las personas. La IA y el aprendizaje automático podrían utilizarse para reconocer las vulnerabilidades de las personas en determinadas situaciones y ayudarlas a evitar las malas elecciones.

 

El método también puede utilizarse para defenderse de los ataques de influencia. Se podría enseñar a las máquinas a alertarnos cuando estamos siendo influenciados en línea, por ejemplo, y ayudarnos a configurar un comportamiento para disimular nuestra vulnerabilidad (por ejemplo, no haciendo clic en algunas páginas, o haciendo clic en otras para dejar una pista falsa).

 

¿Qué será lo siguiente?

 

Como cualquier tecnología, la IA puede utilizarse para bien o para mal, y una gobernanza adecuada es crucial para garantizar que se aplique de forma responsable. El año pasado, el CSIRO elaboró un marco de ética de la IA para el gobierno australiano como un primer paso en este camino.

 

La IA y el aprendizaje automático suelen utilizar gran cantidad de datos, lo que significa que es crucial asegurarse de que contamos con sistemas eficaces para la gobernanza y el acceso a los datos. Es esencial aplicar procesos adecuados de consentimiento y protección de la privacidad cuando se recopilan datos.

 

Las organizaciones que utilizan y desarrollan la IA deben asegurarse de que saben lo que estas tecnologías pueden y no pueden hacer, y ser conscientes de los riesgos potenciales, así como de los beneficios.

Este sistema lleva el deep learning a los dispositivos de “Internet de las cosas”

/in , /by

Esta innovación podría habilitar la inteligencia artificial en los electrodomésticos al tiempo que mejora la seguridad de los datos y la eficiencia energética.

El aprendizaje profundo está en todas partes. Esta rama de la inteligencia artificial selecciona sus redes sociales y ofrece sus resultados de búsqueda de Google. Pronto, el aprendizaje profundo también podría verificar sus signos vitales o configurar su termostato. Los investigadores del MIT han desarrollado un sistema que podría llevar redes neuronales de aprendizaje profundo a lugares nuevos, y mucho más pequeños, como los diminutos chips de computadora en dispositivos médicos portátiles, electrodomésticos y los otros 250 mil millones de objetos que constituyen el “Internet de las cosas” ( IoT).

El sistema, llamado MCUNet, diseña redes neuronales compactas que brindan una velocidad y precisión sin precedentes para el aprendizaje profundo en dispositivos IoT, a pesar de la memoria y la potencia de procesamiento limitadas. La tecnología podría facilitar la expansión del universo de IoT al tiempo que ahorra energía y mejora la seguridad de los datos.

La investigación se presentará en la Conferencia sobre sistemas de procesamiento de información neuronal del próximo mes. El autor principal es Ji Lin, estudiante de doctorado en el laboratorio de Song Han en el Departamento de Ingeniería Eléctrica e Informática del MIT. Los coautores incluyen a Han y Yujun Lin del MIT, Wei-Ming Chen del MIT y la Universidad Nacional de Taiwán, y John Cohn y Chuang Gan del MIT-IBM Watson AI Lab.

Internet de las cosas

El IoT nació a principios de la década de 1980. Los estudiantes de posgrado de la Universidad Carnegie Mellon, incluido Mike Kazar ’78, conectaron una máquina Cola-Cola a Internet. La motivación del grupo era simple: la pereza. Querían usar sus computadoras para confirmar que la máquina estaba surtida antes de salir de su oficina para hacer una compra. Fue el primer dispositivo conectado a Internet del mundo. “Esto fue tratado prácticamente como el remate de una broma”, dice Kazar, ahora ingeniero de Microsoft. “Nadie esperaba miles de millones de dispositivos en Internet”.

Desde esa máquina de Coca-Cola, los objetos cotidianos se han conectado cada vez más en red en el creciente IoT. Eso incluye todo, desde monitores cardíacos portátiles hasta neveras inteligentes que le avisan cuando tiene poca leche. Los dispositivos de IoT a menudo se ejecutan en microcontroladores: chips de computadora simples sin sistema operativo, potencia de procesamiento mínima y menos de una milésima parte de la memoria de un teléfono inteligente típico. Por lo tanto, las tareas de reconocimiento de patrones como el aprendizaje profundo son difíciles de ejecutar localmente en dispositivos de IoT. Para análisis complejos, los datos recopilados por IoT a menudo se envían a la nube, lo que los hace vulnerables a la piratería.

“¿Cómo implementamos redes neuronales directamente en estos pequeños dispositivos? Es una nueva área de investigación que se está poniendo muy de moda ”, dice Han. “Empresas como Google y ARM están trabajando en esta dirección”. Han también lo es.

Con MCUNet, el grupo de Han codignó dos componentes necesarios para un “pequeño aprendizaje profundo”: el funcionamiento de redes neuronales en microcontroladores. Un componente es TinyEngine, un motor de inferencia que dirige la administración de recursos, similar a un sistema operativo. TinyEngine está optimizado para ejecutar una estructura de red neuronal particular, que es seleccionada por el otro componente de MCUNet: TinyNAS, un algoritmo de búsqueda de arquitectura neuronal.

Código de algoritmo del sistema

Diseñar una red profunda para microcontroladores no es fácil. Las técnicas de búsqueda de arquitectura neuronal existentes comienzan con un gran conjunto de posibles estructuras de red basadas en una plantilla predefinida, luego encuentran gradualmente la que tiene alta precisión y bajo costo. Si bien el método funciona, no es el más eficiente. “Puede funcionar bastante bien para GPU o teléfonos inteligentes”, dice Lin. “Pero ha sido difícil aplicar directamente estas técnicas a microcontroladores diminutos, porque son demasiado pequeños”.

Entonces Lin desarrolló TinyNAS, un método de búsqueda de arquitectura neuronal que crea redes de tamaño personalizado. “Tenemos muchos microcontroladores que vienen con diferentes capacidades de energía y diferentes tamaños de memoria”, dice Lin. “Así que desarrollamos el algoritmo [TinyNAS] para optimizar el espacio de búsqueda para diferentes microcontroladores”. La naturaleza personalizada de TinyNAS significa que puede generar redes neuronales compactas con el mejor rendimiento posible para un microcontrolador determinado, sin parámetros innecesarios. “Luego entregamos el modelo final y eficiente al microcontrolador”, dice Lin.

Para ejecutar esa pequeña red neuronal, un microcontrolador también necesita un motor de inferencia ajustado. Un motor de inferencia típico tiene cierto peso muerto: instrucciones para tareas que rara vez se ejecutan. El código adicional no representa ningún problema para una computadora portátil o un teléfono inteligente, pero podría abrumar fácilmente a un microcontrolador. “No tiene memoria fuera del chip y no tiene disco”, dice Han. “Todo junto es solo un megabyte de flash, por lo que tenemos que administrar con mucho cuidado un recurso tan pequeño”. Cue TinyEngine.

Los investigadores desarrollaron su motor de inferencia junto con TinyNAS. TinyEngine genera el código esencial necesario para ejecutar la red neuronal personalizada de TinyNAS. Se descarta cualquier código de peso muerto, lo que reduce el tiempo de compilación. “Conservamos solo lo que necesitamos”, dice Han. “Y desde que diseñamos la red neuronal, sabemos exactamente lo que necesitamos. Esa es la ventaja del código de algoritmo de sistema “. En las pruebas del grupo de TinyEngine, el tamaño del código binario compilado era entre 1,9 y cinco veces más pequeño que los motores de inferencia de microcontroladores comparables de Google y ARM. TinyEngine también contiene innovaciones que reducen el tiempo de ejecución, incluida la convolución en profundidad en el lugar, que reduce el uso máximo de memoria casi a la mitad. Después de codificar TinyNAS y TinyEngine, el equipo de Han puso a prueba MCUNet.

El primer desafío de MCUNet fue la clasificación de imágenes. Los investigadores utilizaron la base de datos ImageNet para entrenar el sistema con imágenes etiquetadas y luego probar su capacidad para clasificar las nuevas. En un microcontrolador comercial que probaron, MCUNet clasificó con éxito el 70,7 por ciento de las imágenes novedosas; la combinación anterior de motor de inferencia y red neuronal de última generación tenía solo un 54 por ciento de precisión. “Incluso una mejora del 1 por ciento se considera significativa”, dice Lin. “Así que este es un gran paso para la configuración de microcontroladores”.

El equipo encontró resultados similares en pruebas ImageNet de otros tres microcontroladores. Y tanto en velocidad como en precisión, MCUNet venció a la competencia en tareas de “palabras de activación” de audio y visuales, donde un usuario inicia una interacción con una computadora usando señales vocales (piense: “Oye, Siri”) o simplemente ingresando a una habitación. Los experimentos destacan la adaptabilidad de MCUNet a numerosas aplicaciones.

 

“Gran potencial”

Los prometedores resultados de las pruebas dan a Han la esperanza de que se convierta en el nuevo estándar de la industria para microcontroladores. “Tiene un potencial enorme”, dice.

El avance “extiende la frontera del diseño de redes neuronales profundas aún más en el dominio computacional de pequeños microcontroladores energéticamente eficientes”, dice Kurt Keutzer, científico informático de la Universidad de California en Berkeley, que no participó en el trabajo. Agrega que MCUNet podría “llevar capacidades inteligentes de visión por computadora incluso a los electrodomésticos de cocina más simples, o habilitar sensores de movimiento más inteligentes”.

MCUNet también podría hacer que los dispositivos de IoT sean más seguros. “Una ventaja clave es preservar la privacidad”, dice Han. “No es necesario transmitir los datos a la nube”.

El análisis de datos localmente reduce el riesgo de robo de información personal, incluidos los datos de salud personal. Han imagina relojes inteligentes con MCUNet que no solo detectan los latidos del corazón, la presión arterial y los niveles de oxígeno de los usuarios, sino que también los analizan y los ayudan a comprender esa información. MCUNet también podría brindar aprendizaje profundo a los dispositivos IoT en vehículos y áreas rurales con acceso limitado a Internet.

Además, la reducida huella informática de MCUNet se traduce en una reducida huella de carbono. “Nuestro gran sueño es la IA verde”, dice Han, y agrega que entrenar una gran red neuronal puede quemar carbono equivalente a las emisiones de por vida de cinco automóviles. MCUNet en un microcontrolador requeriría una pequeña fracción de esa energía. “Nuestro objetivo final es permitir una IA pequeña y eficiente con menos recursos informáticos, menos recursos humanos y menos datos”, dice Han.

 

FUENTE: https://news.mit.edu/2020/iot-deep-learning-1113