OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a mejorar los controles de esta tecnología.
Las preocupaciones sobre la seguridad de la IA se han intensificado en las últimas semanas.
Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.
La idea de una entidad de supervisión surgió de una propuesta de Demis Hassabis, de Google DeepMind, para crear un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que supervisa a los corredores y firmas de inversión en Estados Unidos.
En julio, Hassabis pidió a Estados Unidos que creara una organización que probara los sistemas de IA más potentes antes de que se pusieran a disposición del público.
«La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria», escribió Hassabis.
El martes, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.
«Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura», afirmó Altman en una conferencia organizada por Salesforce en San Francisco.
– «Matarnos a todos» –
El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.
Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe de Anthropic, desarrolladora del chatbot Claude, el presidente estadounidense, Donald Trump, rechazó limitar el sector.
Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA», escribió Trump en su plataforma Truth Social el lunes.
El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.
Las empresas de IA están «jugando con nuestras vidas», advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.
El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.
«Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace», declaró en redes sociales.
– ¿Cartel de IA? –
La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.
Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.
Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.
Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.
«No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo», dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA.
«Hay gran cantidad de partes interesadas que deben ser consultadas», añadió
Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.
«Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria», dijo el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.
Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de querer definir su propia regulación y ponerse de acuerdo para proteger especialmente su ventaja competitiva, en detrimento de los competidores y de los consumidores.
Davis Sacks, influyente consejero de Trump, ha agitado el fantasma de un cartel de la IA.
En ese sentido, ha instado a cada empresa a actuar de forma unilateral, aunque ello suponga ralentizar su ritmo de desarrollo, un escenario improbable a la vista de las inversiones comprometidas en los buques insignia del sector.
Alberto News
Recuerda seguirnos en nuestra CUENTA DE INSTAGRAM Y LA CUENTA DE WHATSAPP
Comment here