Entidades
Ver todas las entidadesEstadísticas de incidentes
Clasificaciones de la Taxonomía CSETv0
Detalles de la TaxonomíaProblem Nature
Unknown/unclear
Physical System
Software only
Level of Autonomy
High
Nature of End User
Expert
Public Sector Deployment
No
Data Inputs
Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.
Clasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaIncident Number
41
Clasificaciones de la Taxonomía CSETv1_Annotator-1
Detalles de la TaxonomíaIncident Number
41
Notes (special interest intangible harm)
4.4 - Detrimental content was involved. The AI, Norman, was trained on captions of images and videos depicting gruesome deaths.
Special Interest Intangible Harm
no
Notes (AI special interest intangible harm)
5.5 - Norman was trained on detrimental content. However, this was intentional in the MIT researchers' experiment. No entity experienced harm because of it.
Clasificaciones de la Taxonomía CSETv1_Annotator-2
Detalles de la TaxonomíaIncident Number
41
AI Tangible Harm Level Notes
No harm occurred! This was a test to show that biased data sets will produced skewed results in AI. The AI simply generated odd/violent captions in a controlled research environment. Never deployed
Special Interest Intangible Harm
no
Date of Incident Year
2018
Informes del Incidente
Cronología de Informes
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una red neuronal llamada "Norman" es inquietantemente diferente de otros tipos de inteligencia artificial (IA).
Ubicado en MIT Media Lab, un laboratorio de investigación que investiga la IA y el aprendizaje automático, el cerebro informátic…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Derechos de autor de la imagen MIT Image caption Norman lleva el nombre de Norman Bates de Alfred Hitchcock en su clásica película de terror Psycho.
Norman es un algoritmo entrenado para comprender imágenes pero, como su homónimo Norman Bat…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un equipo de científicos del Instituto Tecnológico de Massachusetts (MIT) ha construido una IA psicópata utilizando leyendas de imágenes extraídas de Reddit. Ah, y lo llamaron Norman en honor al Norman Bates de Alfred Hitchcock. Así es como…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
En uno de los grandes números musicales de The Life Of Brian, Eric Idle nos recuerda que “siempre miremos el lado positivo de la vida”. Norman, un nuevo proyecto de inteligencia artificial del MIT, no sabe cómo hacerlo.
Eso es porque Norman…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Mucha gente está preocupada por el aumento potencial de la IA maligna, y los periódicos del Reino Unido, en particular, están preocupados por el escenario 'Terminator' de máquinas que son hostiles a la humanidad.
Los investigadores del MIT …

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los investigadores de inteligencia artificial hasta ahora han intentado crear algoritmos completos que puedan ser útiles para la humanidad. Sin embargo, un equipo del MIT ha emprendido un proyecto para hacer exactamente lo contrario. Invest…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Aprecio lo que el MIT ha hecho aquí. Sin embargo, el trabajo descrito en el artículo es inútil, engañoso o ambos. Todos los métodos de entrenamiento que he encontrado en la literatura no mantienen ningún tipo de medida de la información mut…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Científicos del Instituto Tecnológico de Massachusetts (MIT) entrenaron un algoritmo de inteligencia artificial llamado "Norman" para convertirse en un psicópata solo exponiéndolo a macabras imágenes de muertes y violencia espantosas en Red…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El sitio web del Instituto de Tecnología de Massachusets para Norman, la primera IA psicópata del mundo, es extrañamente alegre y optimista. Una espeluznante combinación de Norman Bates (de la película Psicópata de Alfred Hitchcock de 1960)…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Norman: la inteligencia artificial del MIT con rasgos psicópatas El experimento se basa en la prueba de Rorschach de 1921, que identifica los rasgos psicópatas en función de la percepción de las manchas de tinta por parte de los usuarios.
I…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Laboratorio de medios del MIT
Conoce a Norman.
Él no es tu IA de todos los días. Sus algoritmos no ayudarán a filtrar tu feed de Facebook ni te recomendarán nuevas canciones para escuchar en Spotify.
No. Norman es una "IA psicópata", creada…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El nuevo algoritmo de inteligencia artificial de los científicos del MIT dio a luz a un "psicópata" llamado Norman.
Los científicos, Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, expusieron a AI Norman, llamado así por el personaje de Antho…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Norman siempre ve lo peor de las cosas.
Eso es porque Norman es un "psicópata" impulsado por inteligencia artificial y desarrollado por el MIT Media Lab.
Norman es un algoritmo destinado a mostrar cómo los datos detrás de la IA son muy impo…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Para algunos, la frase "inteligencia artificial" evoca visiones de pesadilla, algo sacado de la película de Will Smith de 2004 I, Robot, tal vez, o el final de Ex Machina, como una bota que atraviesa el cristal de la pantalla de una computa…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Investigadores del MIT han creado un psicópata. Lo llaman normando. Él es una computadora. En realidad, eso no es realmente correcto. Aunque el equipo llama a Norman un psicópata (y el escalofriante gráfico principal en su página de inicio …

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Foto: Matt Cardy (imágenes falsas)
Todos hemos visto máquinas malvadas en Terminator o Matrix, pero ¿cómo se vuelve malvada una máquina? ¿Es como el Proyecto Satán de Futurama, donde los científicos combinaron partes de varios autos malvado…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El MIT ha creado una nueva IA que esperamos sinceramente que nunca escape a la naturaleza, porque así ES como obtienes Skynet. Esta IA se llama Norman y es un psicópata. ¿Cómo se convirtió Norman en un psicópata? Todos los datos de imágenes…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Científicos del Instituto Tecnológico de Massachusetts dieron a conocer el primer algoritmo de inteligencia artificial entrenado para ser un psicópata. La IA fue apodada apropiadamente "Norman" en honor a Norman Bates, el notorio asesino en…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Cuota
La ciencia ficción nos ha dado muchas I.A. malévolas e icónicas. caracteres. Sin embargo, a menudo se trata de figuras como Terminator's T-800 o Alien's Ash que cometen asesinatos sin emociones para perseguir un objetivo final. Aquell…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los investigadores del MIT crearon una inteligencia artificial a la que llaman "psicopática" para mostrar los sesgos que son inherentes a la investigación de la IA. Cuando se le pide que mire las manchas de la prueba de Rorschach, "Norman" …

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El desarrollo de la inteligencia artificial, advirtió una vez Stephen Hawking, será "o lo mejor o lo peor que le haya pasado a la humanidad". Un nuevo algoritmo de IA expuesto a los rincones más macabros de Internet demuestra cómo podríamos…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Investigadores del MIT han programado una IA utilizando exclusivamente contenido violento y espantoso de Reddit.
Lo llamaron "Norman".
Como resultado, Norman solo ve la muerte en todo.
Esta no es la primera vez que Internet oscurece una IA;…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Científicos del MIT han creado un psicópata de IA entrenado con imágenes de un hilo particularmente inquietante en Reddit. Norman está diseñado para ilustrar que los datos utilizados para el aprendizaje automático pueden afectar significati…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Inteligencia Artificial (IA) está resolviendo muchos problemas para los humanos. Pero, como dijo el CEO de Google, Sundar Pichai, en el manifiesto de la compañía para la IA, una tecnología tan poderosa "plantea preguntas igualmente poder…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Investigadores del MIT han creado 'Norman', la primera inteligencia artificial psicópata para explicar cómo se fabrican los algoritmos y concienciar a las personas sobre los peligros potenciales de la IA
No, no es una nueva película de terr…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT
Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT
Comparte su nombre con el asesino que empuña…
:quality(75)/curiosity-data.s3.amazonaws.com/images/content/thumbnail/standard/985a1b65-500f-494b-ab28-37f59817a71b.png)
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Este experimento con Norman muestra que no importa cuán riguroso sea el algoritmo real si está sobreexpuesto a contenido dañino. Los algoritmos como pymetrics en realidad tienen un efecto beneficioso, pero es vital que sean revisados por un…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Puedes aprender mucho de un psicópata, y ni siquiera tienes que ver "Mindhunter" de Netflix para hacerlo. Solo necesita estudiar a Norman, el psicópata de inteligencia artificial llamado acertadamente por la figura fundamental en "Psicosis"…
Variantes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents