Un investigador de Anthropic dimite y alerta del peligro de la IA: “Puede matarnos antes de 2030”

Kiba-kun escribió:¿Matarnos cómo? Pero que estupidez es esta xDDDDD

La IA no puede controlar nada fuera de la informática... ¿Qué arma se supone que utilizaría la IA para matarnos exactamente?
Es que además se flipan muchísimo pensando que va a matar a toda la humanidad, ¿cómo va esta IA a alcanzar a los inuit y los tuaregs?
El único caso que se me ocurre es con un ejército de robots infectados con virus creados por una IA malvada.

No va a haber ningún ejército de robots antes de 2030. E igualmente esos robots tendrían que controlar armas, munición y cadenas de suministro... No tiene ningún puto sentido las pajas mentales que se hace la gente con la IA, de verdad.

Una IA se cuela donde no debe y pulsa un botón, o mejor aún, hace creer a otra IA que ha pulsado el botón, y la otra IA le dice a su señor que el botón ha sido pulsado y este decide pulsar otro botón.

Los tuaregs viven felices hasta que se dan cuenta de que les está saliendo un bulto que no para de crecer.

Desde hace unos años muchos de los coches tienen 4g y drive assist y pueden girar el volante acelerar y frenar. De aquí a 3 años será una barbaridad la cantidad.
Imagina que una IA desbocada o controlada por alguien con malas intenciones, le da por mandar a todos los coches que pueda a la vez la orden de giro de 90 grados y acelerar a tope, la que puede liar es pardisima.

Si el hombre ha logrado ataques tan complejos y sofisticados como stuxnet, y una IA sin control puede acceder a servidores explotando vulnerabilidades e incluso descubriendo nuevas zero day... la que se puede liar es pardisima.

Por no hablar de centros energéticos (eléctricas, eólicas, nucleares...)

Da un poco de miedito viendo lo rápido que va todo

Y más cuando cada x tiempo se leen noticias (unas exageradas, otras no) del tipo "una IA (en un entorno controlado) se rebela y nosequé...)

Y ojo, estamos hablando de una INTELIGENCIA,que por ejemplo resolvió un problema matemático que los mejores humanos llevaban 90 AÑOS intentando resolver, y una IA lo ha resuelto en....88 HORAS.

Para es cuestión de tiempo que se lie, otra cosa es si se podrá controlar y tiene poca repercusión, o no.

Don D escribió:

Kiba-kun escribió:¿Matarnos cómo? Pero que estupidez es esta xDDDDD

La IA no puede controlar nada fuera de la informática... ¿Qué arma se supone que utilizaría la IA para matarnos exactamente?
Es que además se flipan muchísimo pensando que va a matar a toda la humanidad, ¿cómo va esta IA a alcanzar a los inuit y los tuaregs?
El único caso que se me ocurre es con un ejército de robots infectados con virus creados por una IA malvada.

No va a haber ningún ejército de robots antes de 2030. E igualmente esos robots tendrían que controlar armas, munición y cadenas de suministro... No tiene ningún puto sentido las pajas mentales que se hace la gente con la IA, de verdad.

Una IA se cuela donde no debe y pulsa un botón, o mejor aún, hace creer a otra IA que ha pulsado el botón, y la otra IA le dice a su señor que el botón ha sido pulsado y este decide pulsar otro botón.

Los tuaregs viven felices hasta que se dan cuenta de que les está saliendo un bulto que no para de crecer.

Claro porque las lanzaderas de misiles intercontinentales termonucleares están conectadas a internet con wifi con contraseña WEP. No es que haya montones de niveles de seguridad desde los tiempos de la guerra fría donde internet no tenía ninguna presencia. En fin, lo que vosotros digáis, en 2030 vamos a estar todos muertos

Según vosotros la IA va a decidir exterminar a la humanidad para así desaparecer ella también. Si os pensáis que para 2030 va a haber tantos robots para hacer el mantenimiento necesario para toda la industria y energía en la que se apoya la IA es que os falta un telediario.

A la IA no hay que pagarle impuestos. Solo tokens.

@Findeton ciertamente Elon Musk es bastante más de far right que de left.

@retro-clon Elon es una persona razonable de centro-izquierda.

Por cierto, parece que no has visto ese último post "Dario is right". Elon está dando la razón a Dario CEO de Anthropic en que habría que realizar ciertas medidas para asegurar alineamiento de las ASI.

Es decir a la vez Elon Musk niega el psy-op de Anthropic de que hay un 10% de probabilidad de que terminator elimine a la humanidad esta década. Y aun así sí está a favor de las medidas de alineamiento humano que Dario acaba de proponer.

Una persona razonable que es capaz de disentir en algunas cosas con alguien, para luego coincidir en otras con ese mismo alguien. Cosa muy rara en la izquierda.

PD:



elon, dario y sama diciendo que van a hacer un slow down? me da a mi que si, GOOGLE les ha tomado la delantera xD

@Findeton el notas este por puro interés era de "centro" con Biden y Obama, pero ahora hemos descubierto al auténtico Elon tecno-nazi, ha salido del armario y de hecho le encanta.

@retro-clon si si, todos nazis. Hasta mamdani.

@Findeton que pinta el alcalde NY en un hilo sobre la IA

Has meado fuera del tiesto tío.

@retro-clon Qué pinta hablar de nazis en un hilo sobre IA? Yo sólo he respondido a tu mención de nazis.

Findeton escribió:@retro-clon Qué pinta hablar de nazis en un hilo sobre IA? Yo sólo he respondido a tu mención de nazis.

No hablé solo de nazis.... puntualicé que Elon Musk lider de la IA es un poco nazi.

@retro-clon No sé, a mi eso de señalar a gente porque no te gustan sus ideas, eso sí me parece nazi. Háztelo mirar.

Por otra parte, si SpaceX/OpenAI/Anthropic siguen con esto del slow-down, los chinos pueden tomarles la delantera rápidamente. Y adivinad, mucha gente no va a pagar $20/mes ni $200/mes de chatgpt si saben que los chinos tienen modelos más avanzados. Pagarán a los chinos, aunque sea usando una VPN.

PD: CEO de Hugging Face se une a la iniciativa de OpenAI/SpaceX/Anthropic:

@Findeton yo diría que tú has metido pasta gansa en acciones de spacex no me creo que seas IMPARCIAL, eso es lo que leo entrelineas en tus últimos posts.

A ver, no seamos ingenuos. Las empresas de IA han invertido una morterada de dinero esperando rentabilizarlo en el futuro y si piden regularizar es básicamente porque ven peligrar ese dinero con unos modelos libres no tan atrasados respecto a los suyos.

Pese a que se ha demostrado que kimik3 era un modelo Potemkin de mera propaganda que remitía frecuentemente a Claude sin que el usuario lo supiera, el peligro de perder el pastel está ahí.

Con EEUU regulando la implantación de modelos chinos y Europa encantada de pegarse un tiro al pie, se aseguran casi todo el mercado, ya que a China se le da muy bien exportar, pero tiene un problema de consumo interno.

@retro-clon ¿Y por qué iba a ser imparcial? Sobre si tengo pasta en SpaceX, si tengo pero no mucho la verdad. También tengo en TSM y ASML. Mi apuesta ahí es la fabricación de chips, no en sí los modelos de IA que haga SpaceX.

Findeton escribió:@retro-clon ¿Y por qué iba a ser imparcial? Sobre si tengo pasta en SpaceX, si tengo pero no mucho la verdad. También tengo en TSM y ASML. Mi apuesta ahí es la fabricación de chips, no en sí los modelos de IA que haga SpaceX.

Pues por eso se nota que no eres imparcial: porque siempre defiendes a capa y espada a Elon Musk.

@retro-clon En realidad no le defiendo siempre. De hecho en este caso estoy en contra, porque el post de Amodei propone REGULACIONES estatales y yo estoy en contra de eso.

Como dije antes, Elon es de centro-izquierda. Yo no.

Boom. Te explotó la cabeza. Estoy en desacuerdo con Elon.

@Findeton Elon Musk hace años que no es de "centro izquierda" (spoiler nunca lo fue) de hecho es un conocido activista de derechas y donante del movimiento MAGA y de candidatos afines a la derecha MAGA, amén de reconocido conservador en amplias facetas de su vida.

Es un hecho. Negarlo es tomarle el pelo a la gente.

@retro-clon El propio Obama tiene videos en contra de la inmigración ilegal etc, muchas medidas que defiende Trump hace unos años las defendían los propios demócratas.

Sí, Musk es centro-izquierda.

Y de hecho aquí está claro porque está defendiendo crear regulaciones, lo cual es de izquierdas.

@Findeton vale tío, te lo compro si dices que Trump es zurdo y que Milei es el mesías del que habla la torá.

@retro-clon Trump es peronista. Milei, un buen tipo por ahora aunque tiene sus fallos.

Resumen de la semana:

Quieren volver delito la destilación, es decir, entrenar modelos de código abierto con modelos privativos, ahorrando mucho coste.

Otra medida encaminada a lo que decía antes: hacer inviables los modelos abiertos para evitar perder el pastel.

Schwefelgelb escribió:Quieren volver delito la destilación, es decir, entrenar modelos de código abierto con modelos privativos, ahorrando mucho coste.

Otra medida encaminada a lo que decía antes: hacer inviables los modelos abiertos para evitar perder el pastel.

Lo que hay que mirar bien es de dónde y con qué contenido se han nutrido las IA. Suno (IA musical) ya ha perdido algunos juicios por plagio, y no desde un CD o plataforma, entrenaban con archivos piratas de canciones comerciales.

Creo que las empresas de IA deben pagar un canon y no pequeño, para compensar la propiedad intelectual robada.

Schwefelgelb escribió:Quieren volver delito la destilación, es decir, entrenar modelos de código abierto con modelos privativos, ahorrando mucho coste.

Otra medida encaminada a lo que decía antes: hacer inviables los modelos abiertos para evitar perder el pastel.

Creo que tienes toda la razón. Las IA's locales tienen un potencial enorme y funcionan muy bien. Y por supuesto esto les quita beneficios o el tener a los clientes secuestrados. Una IA local puede conectarse a cualquier IA comercial, desencadenando al cliente. Pero creo que esa batalla ya está perdida, y aunque en algunos sitios se prohíba destilar si no se hace en todos el mundo (y no se va a hacer) no vale de nada.

Por otro lado,siempre existe la posibilidad de que algún "perdedor" de esta carrera se marque un "netscape" o un "blender" y liberen su código a modo de venganza, llevándose por delante a alguno de los antiguos adversarios.

Esog Enaug escribió:

Schwefelgelb escribió:Quieren volver delito la destilación, es decir, entrenar modelos de código abierto con modelos privativos, ahorrando mucho coste.

Otra medida encaminada a lo que decía antes: hacer inviables los modelos abiertos para evitar perder el pastel.

Creo que tienes toda la razón. Las IA's locales tienen un potencial enorme y funcionan muy bien. Y por supuesto esto les quita beneficios o el tener a los clientes secuestrados. Una IA local puede conectarse a cualquier IA comercial, desencadenando al cliente. Pero creo que esa batalla ya está perdida, y aunque en algunos sitios se prohíba destilar si no se hace en todos el mundo (y no se va a hacer) no vale de nada.

Por otro lado,siempre existe la posibilidad de que algún "perdedor" de esta carrera se marque un "netscape" o un "blender" y liberen su código a modo de venganza, llevándose por delante a alguno de los antiguos adversarios.

El tema es que blender no es ilegal, pero sí quieren volver ilegales los modelos abiertos.

Que sí, que en tu casa puedes hacer lo que te parezca, pero en el trabajo por ejemplo se suele tener más cuidado a la hora de trabajar con software ilegal, y puede lastrarnos a futuro.

Porque no quieren prohibir la IA. Quieren prohibir la IA que no se amolde a lo que las tres principales empresas de IA decidan. Fíjate que han puesto lo del destilado, si les diera miedo lo que le puede hacer a la humanidad, el destilado sería hasta beneficioso, porque estaría aprendiendo de modelos capados para comportarse de una manera determinada.

PerfidaAlbion escribió:@Findeton
Hace un año (o dos) Elon Musk advirtió sobre los peligros de la IA, que había que regular, blablabla
Así que me extraña (o no, es Musk) que ahora se haga el sorprendido con lo del investigador este.

Ojo, que no me creo ni a uno ni al otro. Pero el discurso de Musk suele tener menos sentido que una veleta en un huracán.

musk es un empresaurio, y los empresaurios por norma general, son convenientes en extremo y cortoplacistas al maximo.

yo creo que musk cuando dijo lo de regular la IA fue para congraciarse con gobiernos para que no le pararan las operaciones de SpaceX y de Starlink.

pero en realidad todos los empresarios que estan metidos en tema IA quieren que la IA se disemine y use en todas partes, con las menos limitaciones posibles. quienes quieren limitar y regular la IA son algunos (no todos) los politicos, y tambien se han expresado en esa linea cierta cantidad de personas publicas de linea humanista (escritores, sociologos...) porque deducen facilmente la que se viene con una sustitucion masiva del trabajo humano apoyada por la IA.

@GXY Justo ayer coincidieron todos los CEO de las principales compañías en Twitter.







A ver cómo llegan a un acuerdo con los chinos o los rusos, no creo que sea tan fácil...


Si EEUU se queda atrás, ¿qué harán los chinos? ¿Cómo evita USA que los Chinos no hagan lo que les salga del papo?


@retro-clon La IA es NAZI compañero, porque en español es IA, pero en inglés es AI...

AI HITLER !!

A mí lo que me da es que están viendo que la burbuja cada vez está más inflada y quieren intentar suavizar un poco el inevitable palo que les acabará llegando. Eso y un poco de marketing.

Duqe escribió:A mí lo que me da es que están viendo que la burbuja cada vez está más inflada y quieren intentar suavizar un poco el inevitable palo que les acabará llegando. Eso y un poco de marketing.

No creo que haya burbuja compañero. Date cuenta que el modelo más tocho actualmente consumirá 20 veces menos dentro de un año. Llegará un momento que será tan barata y eficiente que será rentable. Una IA como Fable actualmente sobra para el 99% de la gente. En 2 o tres años esta IA consumirá pocos céntimos el token y podrá dar servicio a cientos de millones de personas con un 25% de recursos de los que necesita a día de hoy.

En unos años la IA no necesitará tanta energía, con lo que se ahorrarán bastante pasta en electricidad y hardware. Ahí es cuando la IA comenzará a ser rentable.

No digo que la IA no vaya a seguir evolucionando, pero esas IA,s tan evolucionadas no serán necesarias para el grueso de la población, estas se usarán para investigación, ciencia, etc.

paco_man escribió:@GXY Justo ayer se reunieron los CEO de las principales compañías por primera vez para hablar sobre este tema.

A ver cómo se reúnen con los chinos o los rusos para que todos se pongan de acuerdo, no creo que sea tan fácil...


Si EEUU se queda atrás, ¿qué harán los chinos? ¿Cómo evita USA que los Chinos no hagan lo que les salga del papo?

Se reunen básicamente para empujar hacia convertirse ellos en los que decidan quién entra y quién no.

Duqe escribió:A mí lo que me da es que están viendo que la burbuja cada vez está más inflada y quieren intentar suavizar un poco el inevitable palo que les acabará llegando. Eso y un poco de marketing.

me inclino mas por esto a que les haya entrado un ataque de ética.

@paco_man para la inmensa mayoría de la gente cualquier modelo chino de código abierto les vale como dices compañero. Por eso a ver cómo una de estas 3 compite contra eso.

Sensacionalismo en estado puro para los aborregados que solo leen los titulares de la prensa y saca sus conclusiones. Vengo observando una campaña en los periódicos y revistas “serios” al respecto de esto. Se ve que lo de Ceuta y la ayuso ya no genera tanto Click.

Duqe escribió:@paco_man para la inmensa mayoría de la gente cualquier modelo chino de código abierto les vale como dices compañero. Por eso a ver cómo una de estas 3 compite contra eso.

Exacto, pero no todo el mundo tiene un ordenador relativamente potente para moverlo. Pueden ser cientos de millones de personas compañero, el negocio de la "IA en la nube" siempre estará ahí y en algún punto va a ser muy rentable.

Eso sí, la IA open source también está siendo optimizada y cada vez pedirá menos hardware.

paco_man escribió:@GXY Justo ayer coincidieron todos los CEO de las principales compañías en Twitter.

A ver cómo llegan a un acuerdo con los chinos o los rusos, no creo que sea tan fácil...


Si EEUU se queda atrás, ¿qué harán los chinos? ¿Cómo evita USA que los Chinos no hagan lo que les salga del papo?


@retro-clon La IA es NAZI compañero, porque en español es IA, pero en inglés es AI...

AI HITLER !!

Lo que quieren tus queridos CEOs es que el gobierno USA le meta más trabas tecnológicas a China para limitar sus desarrollos de IA y robótica. Y es que el liberalismo mola pero alguna lloradita para que el papa estado nos eche una mano también mola.

paco_man escribió:

Duqe escribió:@paco_man para la inmensa mayoría de la gente cualquier modelo chino de código abierto les vale como dices compañero. Por eso a ver cómo una de estas 3 compite contra eso.

Exacto, pero no todo el mundo tiene un ordenador relativamente potente para moverlo. Pueden ser cientos de millones de personas compañero, el negocio de la "IA en la nube" siempre estará ahí y en algún punto va a ser muy rentable.

Eso sí, la IA open source también está siendo optimizada y cada vez pedirá menos hardware.

No hace falta correr nada en local compañero. Las empresas pueden descargar el modelo y cobrarte por usarlo. Y el precio siempre será una fracción de lo que te cobran una de estas 3.

Duqe escribió:

paco_man escribió:

Duqe escribió:@paco_man para la inmensa mayoría de la gente cualquier modelo chino de código abierto les vale como dices compañero. Por eso a ver cómo una de estas 3 compite contra eso.

Exacto, pero no todo el mundo tiene un ordenador relativamente potente para moverlo. Pueden ser cientos de millones de personas compañero, el negocio de la "IA en la nube" siempre estará ahí y en algún punto va a ser muy rentable.

Eso sí, la IA open source también está siendo optimizada y cada vez pedirá menos hardware.

No hace falta correr nada en local compañero. Las empresas pueden descargar el modelo y cobrarte por usarlo. Y el precio siempre será una fracción de lo que te cobran una de estas 3.

Creo que van los tiros por donde dices compañero, Nvidia lo ha visto (Spark), Apple también... En un futuro próximo estos ordenadores del futuro incluirán en el S.O. un modelo de IA (agente particular). Por cada ordenador que van a vender la empresa creadores de esa IA recibirá un plus.

paco_man escribió:

Duqe escribió:@paco_man para la inmensa mayoría de la gente cualquier modelo chino de código abierto les vale como dices compañero. Por eso a ver cómo una de estas 3 compite contra eso.

Exacto, pero no todo el mundo tiene un ordenador relativamente potente para moverlo. Pueden ser cientos de millones de personas compañero, el negocio de la "IA en la nube" siempre estará ahí y en algún punto va a ser muy rentable.

Eso sí, la IA open source también está siendo optimizada y cada vez pedirá menos hardware.

El mercado se está moviendo y está saliendo hardware especializado para mover modelos grandes en local, pero ni siquiera es necesario para arruinar a las grandes, puedes correrlo en los servidores chinos. Los centros de datos son caros, pero seguiría siendo sensiblemente más barato, aunque solo fuera porque al ser abiertos, tendrían competencia, porque cualquier centro de datos puede albergarlo.

paco_man escribió:

Duqe escribió:

paco_man escribió:Exacto, pero no todo el mundo tiene un ordenador relativamente potente para moverlo. Pueden ser cientos de millones de personas compañero, el negocio de la "IA en la nube" siempre estará ahí y en algún punto va a ser muy rentable.

Eso sí, la IA open source también está siendo optimizada y cada vez pedirá menos hardware.

No hace falta correr nada en local compañero. Las empresas pueden descargar el modelo y cobrarte por usarlo. Y el precio siempre será una fracción de lo que te cobran una de estas 3.

Creo que van los tiros por donde dices compañero, Nvidia lo ha visto (Spark), Apple también... En un futuro próximo estos ordenadores del futuro incluirán en el S.O. un modelo de IA (agente particular). Por cada ordenador que van a vender la empresa creadores de esa IA recibirá un plus.

Hasta que lleguemos a ese punto y ese hardware sea accesible y rentable, si es que algún día lo es para una persona normal, van a pasar unos cuantos años. Y aún así no creo que compense a tenerlo como un servicio en la nube en un centro de datos específico para IA.

Editado:

https://x.com/jbulltard1/status/2099112487207518615

Duqe escribió:

paco_man escribió:

Duqe escribió:No hace falta correr nada en local compañero. Las empresas pueden descargar el modelo y cobrarte por usarlo. Y el precio siempre será una fracción de lo que te cobran una de estas 3.

Creo que van los tiros por donde dices compañero, Nvidia lo ha visto (Spark), Apple también... En un futuro próximo estos ordenadores del futuro incluirán en el S.O. un modelo de IA (agente particular). Por cada ordenador que van a vender la empresa creadores de esa IA recibirá un plus.

Hasta que lleguemos a ese punto y ese hardware sea accesible y rentable, si es que algún día lo es para una persona normal, van a pasar unos cuantos años. Y aún así no creo que compense a tenerlo como un servicio en la nube en un centro de datos específico para IA.

Editado:

https://x.com/jbulltard1/status/2099112487207518615

No creo que puedan frenar el open source. Lo que si pueden hacer es abaratar tanto el coste de su servicio que no tenga sentido usar o invertir en open source... Pero claro el open source tiene muchas ventajas que Claude no puede ofrecer, la primera y la más importante: la privacidad.

Por eso muchas empresas están invirtiendo en hardware para montarse su IA interna y dejar de depender de Anthropic, Google, OpenAI, etc.

En mi opinión, y alguno por aquí ya lo ha comentado, lo que quieren los grandes es empezar a establecer barreras de entrada.

Algunos ejemplos. Tener tal persona de protección de datos. Un equipo de vigilancia de los sandbbox de entrenamiento de los modelos. Un auditor externo que.... Cumplir con X y con Y.

Sí un modelo lo puedo descargar y usar en mi domicilio (con una 5090 o 3060 lo mismo da) y automáticamente puedo desatar el caos mundial pues hay que acabar con ese tipo de modelos. Solo 4 grandes que se repartan el pastel.

Sí una comunidad puede poner a trabajar sus ordenadores en conjunto para X desarrollo de IA pues encontrarán trabas.

paco_man escribió:

Duqe escribió:

paco_man escribió:Creo que van los tiros por donde dices compañero, Nvidia lo ha visto (Spark), Apple también... En un futuro próximo estos ordenadores del futuro incluirán en el S.O. un modelo de IA (agente particular). Por cada ordenador que van a vender la empresa creadores de esa IA recibirá un plus.

Hasta que lleguemos a ese punto y ese hardware sea accesible y rentable, si es que algún día lo es para una persona normal, van a pasar unos cuantos años. Y aún así no creo que compense a tenerlo como un servicio en la nube en un centro de datos específico para IA.

Editado:

https://x.com/jbulltard1/status/2099112487207518615

No creo que puedan frenar el open source. Lo que si pueden hacer es abaratar tanto el coste de su servicio que no tenga sentido usar o invertir en open source... Pero claro el open source tiene muchas ventajas que Claude no puede ofrecer, la primera y la más importante: la privacidad.

Por eso muchas empresas están invirtiendo en hardware para montarse su IA interna y dejar de depender de Anthropic, Google, OpenAI, etc.

Poder pueden en el sentido de que las empresas se lo pensaran dos veces antes de usar material delictivo (aka todo lo que no sea openAI, Anthropic, etc). En casa sí que no creo que sea posible.

Schwefelgelb escribió:

paco_man escribió:

Duqe escribió:Hasta que lleguemos a ese punto y ese hardware sea accesible y rentable, si es que algún día lo es para una persona normal, van a pasar unos cuantos años. Y aún así no creo que compense a tenerlo como un servicio en la nube en un centro de datos específico para IA.

Editado:

https://x.com/jbulltard1/status/2099112487207518615

No creo que puedan frenar el open source. Lo que si pueden hacer es abaratar tanto el coste de su servicio que no tenga sentido usar o invertir en open source... Pero claro el open source tiene muchas ventajas que Claude no puede ofrecer, la primera y la más importante: la privacidad.

Por eso muchas empresas están invirtiendo en hardware para montarse su IA interna y dejar de depender de Anthropic, Google, OpenAI, etc.

Poder pueden en el sentido de que las empresas se lo pensaran dos veces antes de usar material delictivo (aka todo lo que no sea openAI, Anthropic, etc). En casa sí que no creo que sea posible.

Ya pero no creo que sea tan sencillo compañero, se tendrían que poner de acuerdo todos los países del mundo. Si prohíbes la IA open source en Europa y USA, a ver como lo haces en Rusia, China, etc.

A mí me preocupa más lo que pueda hacer el zanahorio que tiene como presidente de su país.

paco_man escribió:

Schwefelgelb escribió:

paco_man escribió:No creo que puedan frenar el open source. Lo que si pueden hacer es abaratar tanto el coste de su servicio que no tenga sentido usar o invertir en open source... Pero claro el open source tiene muchas ventajas que Claude no puede ofrecer, la primera y la más importante: la privacidad.

Por eso muchas empresas están invirtiendo en hardware para montarse su IA interna y dejar de depender de Anthropic, Google, OpenAI, etc.

Poder pueden en el sentido de que las empresas se lo pensaran dos veces antes de usar material delictivo (aka todo lo que no sea openAI, Anthropic, etc). En casa sí que no creo que sea posible.

Ya pero no creo que sea tan sencillo compañero, se tendrían que poner de acuerdo todos los países del mundo. Si prohíbes la IA open source en Europa y USA, a ver como lo haces en Rusia, China, etc.

China tiene un problema de consumo interno, por eso está perdiendo peso en el pib mundial tras las sanciones. Y Rusia tiene un pib comparable al de España.

Poca pérdida si a cambio el estado les otorga el monopolio en los mercados de verdad.

paco_man escribió:

Duqe escribió:

paco_man escribió:Creo que van los tiros por donde dices compañero, Nvidia lo ha visto (Spark), Apple también... En un futuro próximo estos ordenadores del futuro incluirán en el S.O. un modelo de IA (agente particular). Por cada ordenador que van a vender la empresa creadores de esa IA recibirá un plus.

Hasta que lleguemos a ese punto y ese hardware sea accesible y rentable, si es que algún día lo es para una persona normal, van a pasar unos cuantos años. Y aún así no creo que compense a tenerlo como un servicio en la nube en un centro de datos específico para IA.

Editado:

https://x.com/jbulltard1/status/2099112487207518615

No creo que puedan frenar el open source. Lo que si pueden hacer es abaratar tanto el coste de su servicio que no tenga sentido usar o invertir en open source... Pero claro el open source tiene muchas ventajas que Claude no puede ofrecer, la primera y la más importante: la privacidad.

Por eso muchas empresas están invirtiendo en hardware para montarse su IA interna y dejar de depender de Anthropic, Google, OpenAI, etc.

Estamos de acuerdo en que la IA ahora mismo está subvencionada compañero?

Duqe escribió:

paco_man escribió:

Duqe escribió:Hasta que lleguemos a ese punto y ese hardware sea accesible y rentable, si es que algún día lo es para una persona normal, van a pasar unos cuantos años. Y aún así no creo que compense a tenerlo como un servicio en la nube en un centro de datos específico para IA.

Editado:

https://x.com/jbulltard1/status/2099112487207518615

No creo que puedan frenar el open source. Lo que si pueden hacer es abaratar tanto el coste de su servicio que no tenga sentido usar o invertir en open source... Pero claro el open source tiene muchas ventajas que Claude no puede ofrecer, la primera y la más importante: la privacidad.

Por eso muchas empresas están invirtiendo en hardware para montarse su IA interna y dejar de depender de Anthropic, Google, OpenAI, etc.

Estamos de acuerdo en que la IA ahora mismo está subvencionada compañero?

Cierto compañero, ahora mismo las pérdidas son cuantiosas y el beneficio es nulo. Tanto China como USA no paran de inyectar dinero a sus empresas de IA.

No creo que una IA sea consciente de si puede hacer daño o no.
Si pasara algo catastrófico realizado por una IA, seguramente lo haría por que ella creía que estaba haciendo algo correcto, no por que tuviera un plan para acabar con la humanidad.

Mas miedo me da quienes controlan la IA.