Riesgo de extinción por IA
Expertos en inteligencia artificial firmaron un documento que compara el riesgo de «extinción por IA» con pandemias y guerras nucleares.
Se trata de decenas de expertos en IA, incluyendo los CEO de OpenAI, Google, DeepMind y Anthropic.
Quienes firmaron recientemente una declaración abierta publicada por el Centro para la Seguridad de IA (CAIS).
La declaración contiene una sola frase: “Mitigar el riesgo de extinción por IA debería ser una prioridad global”.
“Junto a otros riesgos a escala social como las pandemias y la guerra nuclear».
Entre los firmantes del documento se encuentra un auténtico «quién es quién» de las luminarias de la IA.
Incluyendo el padrino de la IA, Geoffrey Hinton, además de Stuart Russell, de la Universidad de California en Berkeley.
También está Lex Fridman, del Instituto Tecnológico de Massachusetts.
Por su parte, el músico Grimes también es uno de los firmantes, en la categoría de «otras figuras notables».
Aunque la declaración pueda parecer inocua a primera vista, el mensaje subyacente es algo controvertido en la comunidad de la IA.
Un número aparentemente creciente de expertos cree que las tecnologías actuales pueden conducir o conducirán inevitablemente.
A la aparición o el desarrollo de un sistema de IA capaz de suponer una amenaza existencial para la especie humana.
Sus puntos de vista, sin embargo, son rebatidos por un contingente de expertos con opiniones diametralmente opuestas.
Yann LeCun, científico jefe de IA de Meta, por ejemplo, señaló en numerosas ocasiones que no cree necesariamente que la IA llegue a ser incontrolable.
Para él y otros que no están de acuerdo con la retórica de la «extinción», la IA no es el problema, sino la respuesta.
Como es el caso de Andrew Ng, cofundador de Google Brain y antiguo científico jefe de Baidu.
En el otro lado de la discusión están expertos como Hinton y Connor Leahy, CEO de Conjecture.
Quienes creen que la IA a nivel humano es inevitable y, por tanto, el momento de actuar es ahora.
Fuente: Cointelegraph
