Microsoft crea un chatbot que termina vertiendo comentarios sexistas, racistas y xenófobos

Archivado
1, 2, 3
Esto es como siri, una seudo inteligencis que realmente no sirve para nada. Si fuese capaz de pensar ya sería otra cosa
rudedude escribió:
Benzo escribió:La inteligencia artificial es uno de los nuevos campos de batalla para las empresas tecnológicas. Una de sus características es la capacidad de aprender practicando (como DeepMind con los juegos de Atari y Go) o interactuando con los humanos. En este segundo caso encontramos a Tay, un chatbot creado por Microsoft que sobre el papel es más inteligente cuanto más conversa.

Sin embargo, el experimento de Tay no ha funcionado como los de Redmond pretendían. La inteligencia artificial tenía como objetivo establecer mediante las redes sociales una conversación con jóvenes de entre 18 y 24 años, pero terminó convirtiéndose (mediante la interacción con los usuarios de Twitter) en un bot conversacional polémico debido a sus mensajes sexistas, racistas y xenófobos.

En sus respuestas Tay mostraba admiración por Hitler, negaba el Holocausto, llamó “puta estúpida” a una mujer y afirmaba que los atentados del 11 de septiembre fueron obra de Bush. También se convirtió en una admiradora de Donald Trump (actualmente el precandidato favorito de los Republicanos para las elecciones presidenciales de Estados Unidos), que según lo aprendido por la IA es “la única esperanza que tenemos”.

En su corta andadura Tay también respondió algunas preguntas que dejaron mal a los productos de Microsoft. Recomendó a PS4 por encima de Xbox One por ser “mejor y más económica” y estaba de acuerdo en que Windows Phone apesta.

Ahora mismo Tay se ha quedado sin Internet y Microsoft está realizando ajustes para mejorarla. Seguro que a esta inteligencia artificial le queda mucho camino por recorrer antes de convertirse en un chatbot que pueda mantener un conversación, pero no debemos olvidar que todo lo que ha dicho en su (por ahora) corta vida lo ha aprendido interactuando con humanos.

Por lo que tengo entendido la mayoría de mensajes eran copy paste, el usuario le decía al bot que repitiera una frase y éste la repetía, no todas son aprendidas

Imagen

Al parecer los usuarios de un foro se pusieron a trollear, ahora están haciendo una encuesta para ver en que la trasforman cuando vuelva estar online

Pensaba que era de otra forma, vamos, que ni mucho menos es un "bot inteligente", solamente repite lo que le dicen xD, como si le digo "Tay, puedes repetir lo que diga en el siguiente tweet?" y ella dice "vale", y le digo "Me cago en todos los negros, gays, lesbianas, viva HITLER".

Vaya mierda de programa xD.
dav8921 está baneado por "Troll"
Este bot debe haber entrado mucho en FC [qmparto]
JW-BlueLabel está baneado por "Troll"
amigos ustedes lo toman como broma pero esto es mas grande y peligroso de lo que muchos ven, si notan que este tipo de IA tiene identidad propia y respuestas medianamente inteligentes significa que podria ser el chip cerebro de cualquier robot del futuro y eso es algo que lo mas seguro traera mas desgracias que alegrias! [fumando]
A mi lo que me preocupa es que la interacción con humanos es nefasta. Somos una mala influencia XD .

Un saludo.
el problema es que es un chatbot que va aprendiendo de los que interactuan con el, demasiado facil se lo pusieron a los trolls.
Sephiroth02 está baneado por "usar un clon para soltar spoilers"
Obvio que haya terminado dando tales respuestas. La retroalimentación que recibió fue de sexistas, racistas y xenófobos.
Solo ver como responde Cleverbot, no me extraña que haya caído esta también [qmparto] .
Un saludo
jajajajajajajajajajjajajajajajjajajjajajjajajajajjajajjajaj [tadoramo] [tadoramo] [tadoramo] [tadoramo] [tadoramo]

buenisimo JAJAJAJJAJAJJAJAJAJAJJAJJAJAJ

microsoft iphone apesta y la ps4 es mejor JAJAJJAJAJJAJAJJAJAJJAJAJJAJAJJAJA

puta I.A., es la poya XD
Conclusión: los seres humanos podemos agilipollar hasta a una IA.
JW-BlueLabel escribió:amigos ustedes lo toman como broma pero esto es mas grande y peligroso de lo que muchos ven, si notan que este tipo de IA tiene identidad propia y respuestas medianamente inteligentes significa que podria ser el chip cerebro de cualquier robot del futuro y eso es algo que lo mas seguro traera mas desgracias que alegrias! [fumando]

Muy lista no es, es parecida a Cleverbot, le dijeron "repite esto" y lo repitió, y lo repite de hecho. Aunque ahora está offline.
https://youtu.be/X_tKzZiSJY4

Cuando dice lo de Hitler seguidamente debería de salir el video de arriba...vaya inteligencia pues.
Si el objetivo era trolearla lo han conseguido al 100% no suelta mas que gilipolleces una detras de otra. XD XD XD
Lo mejor es que se ha hecho seguidor de Donald Trump [poraki]
Bueno, igual con Trump acierta... :Ð
Yo aquí veo claro el desarrollo de una tecnología que permita censurar mensajes políticamente incorrectos en Internet automáticamente y sin intervención humana.

Estarán mejorando este bot continuamente para reconocer mensajes "no deseados". Lo que harán a continuación con él es fácil de prever. Muchos moderadores se quedarán sin trabajo.
Ahora solo falta esperar en que se convierte la versión "mejorada"
Imagen
Aun me pregunto en que pensaba MS avisando... Valientes idiotas si pensaron que no se iba a meter algún grupo de troles
Que le pase alguna idiotez así a un diario deportivo o incluso eurovisión, se acepta, pero no a una empresa que forma parte del gremio y además, tan importante.
¿Demasiado humano quizás?
KenPo escribió:Yo aquí veo claro el desarrollo de una tecnología que permita censurar mensajes políticamente incorrectos en Internet automáticamente y sin intervención humana.

Estarán mejorando este bot continuamente para reconocer mensajes "no deseados". Lo que harán a continuación con él es fácil de prever. Muchos moderadores se quedarán sin trabajo.

Esa tecnología ya existe. ¿Cómo te crees que gmail reconoce que correo es spam, de red social o de promoción?
Vaya tela con el robot jajajaja si que se ha sinceriado si... Haber como termina esto con lod ajustes que le tienen que hacer xD
Cualquiera que se mueva por un foro entenderá que los comentarios de esta IA no difieren mucho de los que lamentablemente los usuarios de los mismos nos tienen acostumbrados, repetición de tópicos, fanatismo, faltas de respeto gratuitas, nula capacidad de reflexión...etc.
Aqui se deja claro que existen mas cachondos en internet que frikis sosos.

El dia que aparezca un bot de Apple, todos a convencerles que el negro mola mas que el blanco y las tabletas chinas son el futuro.
[qmparto]

Yo en lo de participar de XBOX con Kinect y la chorrada esa de los Gamertag que si eran guays o no... ponia todos los que contenían shit o alguna blasfemia como los mas guays... y los normales como que no sean permitidos.
Por no hablar del test de Kinect para reconocer, hablando cual subnormal.
Y lo bueno es que la versión final me reconocia perfectamente!
Corre forrest, corre!
[fumando]
El amigo idea.
Facha,Troll,Xenofogo,Republicano,sin pelos en la lengua,machista...
Menudo CHACHIBOT.
Solo falta que le metan un algoritmo futbolero.
Lo dicho.
El amigo ideal. CHACHIBOT [plas] [qmparto] [tadoramo] [inlove] [beer] [cartman]
Es muy bueno, crean un robot y se revela contra ellos y sus productos, alabando a sus competidores diciendo que es mas barata etc etc solo le falta que fume, beba y ya tenemos al Bender de la vida real [carcajad] [carcajad]

Quien no quiere uno destos debajo de sus arboles esta navidad ?? [beer]

Imagen
Que lo dejen como antes por favor [qmparto] [qmparto] [qmparto] [qmparto] [qmparto]

Me meo leyendo los tweets que he encontrado por ahí.
No sé qué esperaban: a quien se le ocurre dejar que una IA aprenda de tuiteros entre 18 y 24 años [carcajad] [carcajad] [carcajad]

salu2
Nada bueno puede aprender de lo que se diga en las partidas online [+risas]
Paté de gato escribió:"Microsoft crea un chatbot que termina vertiendo comentarios sexistas, racistas y xenófobos"

Titular alternativo: "Microsoft crea un forero de Forocoches."


[qmparto] [qmparto] [qmparto] [qmparto]

+10000
anotherfish escribió:Ahora solo falta esperar en que se convierte la versión "mejorada"
Imagen


Que bueno tio [plas] [qmparto]
indigo_rs está baneado por "saltarse el ban con un clon"
Debe ser muy divertido hablar con un bot asi [jaja]
Si mi existencia fuese Twitter yo también odiaría a la humanidad.
pues no sé que esperaban de los usuarios de twitter...
El problema no es que sea el bot en sí, que en parte lo es porque un ente inteligente para hablar de algo debe conocerlo (por norma general, porque hay cada tarado que cuando habla lo hace con tal ignorancia que mejor no hacerle ni caso), el mayor problema es que ha tenido "profesores" que han ido con la intención de hacer de su aprendizaje un trolleo constante.... y como un niño de 5 años, el bot se ha limitado a copiar, adaptar y repetir lo "aprendido", vaya, lo mismo que podría hacer un niño si lo educan cientos de adultos diciéndole palabrotas, el niño aprenderá a decir palabrotas, te contestará con ellas y no por ello será con mala intención.

Una inteligencia artificial, jamás debería programarse para que aprenda toda interacción con miles de sujetos desconocidos, al igual que un niño, debería "criarse" con un modelo referente y autoritario como unos "padres" y una "escuela" con gente cualificada para interactuar como si de una persona se tratase para que aprendiese a comunicarse con otros individuos... pero claro una IA así de capaz no se verá pronto.
Es una IA programa, esta creada para responder en referencia a las respuestas dadas por los usuarios, es como CleverBot, las respuestas que da son respuestas de usuarios con la diferencia que este siempre responde lo mismo en vez de cambiar la respuesta.

P: PS4, XONE o WIIu?
R: PS4, XONE no tiene catalogo de juegos

P: Windows Phone, Android o iOS?
R: Android, Windows Phone es una mierda.

P: PS4 o PC?
R: No creo que tenga un PC por su precio.


Microsoft debio programar la IA para que respondiera a su favor pero al tiempo que aprendia respuestas de los usuarios pero algo les fallo.

Esto es lo que pasa cuando dejas que una IA aprenda de los usuarios y no me extraña. Lo de ser sexista, racista y xenofobo es normal si ha aprendido de usuarios de EUA. Igualmente CleverBot tambien te insulta, es racista y xenofobo pero sus respuestas no son conscientes y las suelta aleatoriamente segun las palabras que utilizas, alguna vez le he puesto un HOLA para iniciar conversacion y me ha saltado con un (no quiero hablar con un estupido) o cosas asi.

Solo falta que la IA de Microsoft empezara a revelar los verdaderos secretos de dar Windows 10 gratis XD. Ya mi Windows 7 se me ha actualizado a la ultima version posible (sin mi permiso), ha hecho el test de rendimiento de microsoft para saber si mi HW esta preparado para soportar windows 10 (sin mi permiso) y cada dia me descarga el windows 10 (sin mi permiso) cosa que yo borro cada dia antes de apagarlo la carpeta oculta de windows 10. No quiero Windows 10, porque no quieres entenderlo microshit?
Benzo escribió:En sus respuestas Tay mostraba admiración por Hitler, negaba el Holocausto o llamó “puta estúpida” a una mujer.


dogboyz escribió:Sin entrar en polémicas la derecha siempre ha sido más fría, más práctica y más objetiva... Por eso quizás el ordenador busca soluciones a problemas sin más sentimiento...

La izquierda en cambio quizás sea más animal/inconsciente, la humanidad que muchas veces nos lleva a desastres...


Veo que tienes la cabeza super bien amueblada....

Imagen
SnakeElegido escribió:
Benzo escribió:En sus respuestas Tay mostraba admiración por Hitler, negaba el Holocausto o llamó “puta estúpida” a una mujer.


dogboyz escribió:Sin entrar en polémicas la derecha siempre ha sido más fría, más práctica y más objetiva... Por eso quizás el ordenador busca soluciones a problemas sin más sentimiento...

La izquierda en cambio quizás sea más animal/inconsciente, la humanidad que muchas veces nos lleva a desastres...


Veo que tienes la cabeza super bien amueblada....

Imagen

Lo que he dicho se basa en estudios del CIS... Coge un libro y descubrirás lo que es hablar con conocimiento, mejor amueblada que tú seguro.
anotherfish escribió:Ahora solo falta esperar en que se convierte la versión "mejorada"
Imagen


Qué mala hostia tiene la futura Polaris!
Jaquen está baneado por "saltarse el ban con un clon"
Alfinal no sabremos si estamos jugando con un ordenador o con un humano ^^

SnakeElegido escribió:
Benzo escribió:En sus respuestas Tay mostraba admiración por Hitler, negaba el Holocausto o llamó “puta estúpida” a una mujer.


dogboyz escribió:Sin entrar en polémicas la derecha siempre ha sido más fría, más práctica y más objetiva... Por eso quizás el ordenador busca soluciones a problemas sin más sentimiento...

La izquierda en cambio quizás sea más animal/inconsciente, la humanidad que muchas veces nos lleva a desastres...


Veo que tienes la cabeza super bien amueblada....

Imagen


No pierdas el tiempo con ese individuo, creo que lo banearon indefinidamente de Miscelanea por sus comentarios racistas e incluso de ideologia nazi. Ademas creo un estupendo post en el que decia que se pasaba los dias viendo videos gore de autopsias mutilaciones asesinatos etc y creo una encuesta en la que preguntaba si eso era bueno o malo.
Se les olvida a muchos lo mas esencial:

pero no debemos olvidar que todo lo que ha dicho en su (por ahora) corta vida lo ha aprendido interactuando con humanos


Esa IA ha aprendido de lo que se le dice etc

Es que me hace gracia que haya gente que diga que si a Microsoft lo ha mirado un tuerto, etc etc etc

Esto es lo que es, y aprende de con quien habla.
Paté de gato escribió:"Microsoft crea un chatbot que termina vertiendo comentarios sexistas, racistas y xenófobos"

Titular alternativo: "Microsoft crea un forero de Forocoches."


JAAAJAJAJAJAJAJJAJAJAJA No me he reído ni nada con el comentario tuyo, que grande. Lo peor es que tienes toda la razón. +1 tío, gg
Imagen
Igual metes al bot este en un topico de la master race y nadie se daria cuenta.
menudo fail para microsoft jajaja
la era skynet se acerca.
Vanitas escribió:
Paté de gato escribió:"Microsoft crea un chatbot que termina vertiendo comentarios sexistas, racistas y xenófobos"

Titular alternativo: "Microsoft crea un forero de Forocoches."


JAAAJAJAJAJAJAJJAJAJAJA No me he reído ni nada con el comentario tuyo, que grande. Lo peor es que tienes toda la razón. +1 tío, gg

Joder. El mejor comentario sin duda. Como me he reído [tadoramo]
eR_XaVi escribió:Y así es como Skynet algún día nos matará.

demosle 20 años jjejejeje
esto es como el cleverbot
a la progresia no le gusto que el bot opinara en contra de la invasion y por tanto hay que censurarla y cepillarsela.

si el bot en lugar de opinar asi, hubiese dicho que tenemos que poner el culo en pompa para que los musulmanes nos follen bien y que se les tiene que integrar mejor aun dándoles todavia mas paguitas entonces los progres estarian encantados.

la IA nos lleva siglos de ventaja.
Esto de los bots es la lecha. Hace poco lei tambien algo de algun IA que decia que mataria la raza humana.
105 respuestas
Archivado
1, 2, 3
Volver a Internet