Un investigador de Anthropic dimite y alerta del peligro de la IA: “Puede matarnos antes de 2030”

Responder
1, 2
Encuesta
Os preocupa que pueda ocurrir?
28%
16
28%
16
45%
26
Hay 58 votos.
Ver ordenados

Kiba-kun escribió:¿Matarnos cómo? Pero que estupidez es esta xDDDDD

La IA no puede controlar nada fuera de la informática... ¿Qué arma se supone que utilizaría la IA para matarnos exactamente?
Es que además se flipan muchísimo pensando que va a matar a toda la humanidad, ¿cómo va esta IA a alcanzar a los inuit y los tuaregs?
El único caso que se me ocurre es con un ejército de robots infectados con virus creados por una IA malvada.

No va a haber ningún ejército de robots antes de 2030. E igualmente esos robots tendrían que controlar armas, munición y cadenas de suministro... No tiene ningún puto sentido las pajas mentales que se hace la gente con la IA, de verdad.


Una IA se cuela donde no debe y pulsa un botón, o mejor aún, hace creer a otra IA que ha pulsado el botón, y la otra IA le dice a su señor que el botón ha sido pulsado y este decide pulsar otro botón.

Los tuaregs viven felices hasta que se dan cuenta de que les está saliendo un bulto que no para de crecer.
Desde hace unos años muchos de los coches tienen 4g y drive assist y pueden girar el volante acelerar y frenar. De aquí a 3 años será una barbaridad la cantidad.
Imagina que una IA desbocada o controlada por alguien con malas intenciones, le da por mandar a todos los coches que pueda a la vez la orden de giro de 90 grados y acelerar a tope, la que puede liar es pardisima.

Si el hombre ha logrado ataques tan complejos y sofisticados como stuxnet, y una IA sin control puede acceder a servidores explotando vulnerabilidades e incluso descubriendo nuevas zero day... la que se puede liar es pardisima.
Por no hablar de centros energéticos (eléctricas, eólicas, nucleares...)

Da un poco de miedito viendo lo rápido que va todo

Y más cuando cada x tiempo se leen noticias (unas exageradas, otras no) del tipo "una IA (en un entorno controlado) se rebela y nosequé...)

Y ojo, estamos hablando de una INTELIGENCIA,que por ejemplo resolvió un problema matemático que los mejores humanos llevaban 90 AÑOS intentando resolver, y una IA lo ha resuelto en....88 HORAS.

Para es cuestión de tiempo que se lie, otra cosa es si se podrá controlar y tiene poca repercusión, o no.
Don D escribió:
Kiba-kun escribió:¿Matarnos cómo? Pero que estupidez es esta xDDDDD

La IA no puede controlar nada fuera de la informática... ¿Qué arma se supone que utilizaría la IA para matarnos exactamente?
Es que además se flipan muchísimo pensando que va a matar a toda la humanidad, ¿cómo va esta IA a alcanzar a los inuit y los tuaregs?
El único caso que se me ocurre es con un ejército de robots infectados con virus creados por una IA malvada.

No va a haber ningún ejército de robots antes de 2030. E igualmente esos robots tendrían que controlar armas, munición y cadenas de suministro... No tiene ningún puto sentido las pajas mentales que se hace la gente con la IA, de verdad.


Una IA se cuela donde no debe y pulsa un botón, o mejor aún, hace creer a otra IA que ha pulsado el botón, y la otra IA le dice a su señor que el botón ha sido pulsado y este decide pulsar otro botón.

Los tuaregs viven felices hasta que se dan cuenta de que les está saliendo un bulto que no para de crecer.

Claro porque las lanzaderas de misiles intercontinentales termonucleares están conectadas a internet con wifi con contraseña WEP. No es que haya montones de niveles de seguridad desde los tiempos de la guerra fría donde internet no tenía ninguna presencia. En fin, lo que vosotros digáis, en 2030 vamos a estar todos muertos [oki] [oki] [oki]

Según vosotros la IA va a decidir exterminar a la humanidad para así desaparecer ella también. Si os pensáis que para 2030 va a haber tantos robots para hacer el mantenimiento necesario para toda la industria y energía en la que se apoya la IA es que os falta un telediario.
A la IA no hay que pagarle impuestos. Solo tokens.
@Findeton ciertamente Elon Musk es bastante más de far right que de left.
@retro-clon Elon es una persona razonable de centro-izquierda.

Por cierto, parece que no has visto ese último post "Dario is right". Elon está dando la razón a Dario CEO de Anthropic en que habría que realizar ciertas medidas para asegurar alineamiento de las ASI.

Es decir a la vez Elon Musk niega el psy-op de Anthropic de que hay un 10% de probabilidad de que terminator elimine a la humanidad esta década. Y aun así sí está a favor de las medidas de alineamiento humano que Dario acaba de proponer.

Una persona razonable que es capaz de disentir en algunas cosas con alguien, para luego coincidir en otras con ese mismo alguien. Cosa muy rara en la izquierda.

PD:



elon, dario y sama diciendo que van a hacer un slow down? me da a mi que si, GOOGLE les ha tomado la delantera xD
@Findeton el notas este por puro interés era de "centro" con Biden y Obama, pero ahora hemos descubierto al auténtico Elon tecno-nazi, ha salido del armario y de hecho le encanta.
@retro-clon si si, todos nazis. Hasta mamdani.

Imagen
@Findeton que pinta el alcalde NY en un hilo sobre la IA :-?

Has meado fuera del tiesto tío.
@retro-clon Qué pinta hablar de nazis en un hilo sobre IA? Yo sólo he respondido a tu mención de nazis.
Findeton escribió:@retro-clon Qué pinta hablar de nazis en un hilo sobre IA? Yo sólo he respondido a tu mención de nazis.


No hablé solo de nazis.... puntualicé que Elon Musk lider de la IA es un poco nazi.
@retro-clon No sé, a mi eso de señalar a gente porque no te gustan sus ideas, eso sí me parece nazi. Háztelo mirar.

Por otra parte, si SpaceX/OpenAI/Anthropic siguen con esto del slow-down, los chinos pueden tomarles la delantera rápidamente. Y adivinad, mucha gente no va a pagar $20/mes ni $200/mes de chatgpt si saben que los chinos tienen modelos más avanzados. Pagarán a los chinos, aunque sea usando una VPN.

PD: CEO de Hugging Face se une a la iniciativa de OpenAI/SpaceX/Anthropic:

@Findeton yo diría que tú has metido pasta gansa en acciones de spacex no me creo que seas IMPARCIAL, eso es lo que leo entrelineas en tus últimos posts.
A ver, no seamos ingenuos. Las empresas de IA han invertido una morterada de dinero esperando rentabilizarlo en el futuro y si piden regularizar es básicamente porque ven peligrar ese dinero con unos modelos libres no tan atrasados respecto a los suyos.

Pese a que se ha demostrado que kimik3 era un modelo Potemkin de mera propaganda que remitía frecuentemente a Claude sin que el usuario lo supiera, el peligro de perder el pastel está ahí.

Con EEUU regulando la implantación de modelos chinos y Europa encantada de pegarse un tiro al pie, se aseguran casi todo el mercado, ya que a China se le da muy bien exportar, pero tiene un problema de consumo interno.
@retro-clon ¿Y por qué iba a ser imparcial? Sobre si tengo pasta en SpaceX, si tengo pero no mucho la verdad. También tengo en TSM y ASML. Mi apuesta ahí es la fabricación de chips, no en sí los modelos de IA que haga SpaceX.
Findeton escribió:@retro-clon ¿Y por qué iba a ser imparcial? Sobre si tengo pasta en SpaceX, si tengo pero no mucho la verdad. También tengo en TSM y ASML. Mi apuesta ahí es la fabricación de chips, no en sí los modelos de IA que haga SpaceX.


Pues por eso se nota que no eres imparcial: porque siempre defiendes a capa y espada a Elon Musk.
@retro-clon En realidad no le defiendo siempre. De hecho en este caso estoy en contra, porque el post de Amodei propone REGULACIONES estatales y yo estoy en contra de eso.

Como dije antes, Elon es de centro-izquierda. Yo no.

Boom. Te explotó la cabeza. Estoy en desacuerdo con Elon.
@Findeton Elon Musk hace años que no es de "centro izquierda" (spoiler nunca lo fue) de hecho es un conocido activista de derechas y donante del movimiento MAGA y de candidatos afines a la derecha MAGA, amén de reconocido conservador en amplias facetas de su vida.

Es un hecho. Negarlo es tomarle el pelo a la gente.
@retro-clon El propio Obama tiene videos en contra de la inmigración ilegal etc, muchas medidas que defiende Trump hace unos años las defendían los propios demócratas.

Sí, Musk es centro-izquierda.

Y de hecho aquí está claro porque está defendiendo crear regulaciones, lo cual es de izquierdas.
@Findeton vale tío, te lo compro si dices que Trump es zurdo y que Milei es el mesías del que habla la torá.
@retro-clon Trump es peronista. Milei, un buen tipo por ahora aunque tiene sus fallos.

Resumen de la semana:

72 respuestas
Responder
1, 2
Volver a Miscelánea