El 28 de febrero de 2024, Sewell Setzer III, n chicondeb14baños de Florida, se suicido a instancias de un personaje realista de inteligencia artificial (IA) generado por Character AI, una plataforma que al parecer también alberga chatbots de IA proanorexia que fomentan los trastornos alimentarios entre los jóvenes, Está claro que se necesitan urgentemente medidas más estrictas para proteger a los niños y jóvenes de la IA.
Por supuesto, incluso en términos estrictamente éticos, la IA tiene un inmenso potencial positivo, desde la promoción de la salud y la dignidad humanas hasta la mejora de la sostenibilidad y la educación entre las poblaciones marginadas. Pero estos beneficios prometidos no son excusa para restarles importancia a los riesgos éticos y los costos en el mundo real. o para negarlos.
La tragedia de Setzer no es un caso aislado. En diciembre, dos familias de Texas presentaron una demanda contra Character,AI y su patrocinador financiero, Google, alegando que los chatbots de la plataformas abusaban sexual y emocionalmente de sus hijos, provocando autolesiones y violencia,
Ahora, muchos países están prohibiendo a restringiendo el acceso, y los propios jóvenes exigen una regulación más estricta. Pero no podemos pretender frenar potencial de abuso es enorme el poder manipulador de la IA. El potencial de abuso es enorme. Las IA saben exactamente qué botones presionar para explotar nuestros deseos o hacer qu votemos de una determinada manera.
Sin embargo, se está acabando el tiempo, porque los modelos de IA generativa se han desarrollando más rápido de lo esperado --y, en general, están cobrando velocidad en la dirección equivocada-- El padrino de la IA, el científico cognitivo y ganador de Premio Nobel Geoffrey Hiton continúa advirtiendo que esta tecnología podría conducir a la extinción humana. "Lo único que puede obligar a esas grandes empresas a investigar más sobre seguridad es la regulación gubernamental", recuerda.
Dada la incapacidad de las grandes empresas tecnológicas para cumplir con normas éticas, es una locura esperar que se vigilen a sí mismas. Si bien la regulación es obviamente necesaria, la IA es un fenómeno global, lo que significa que deberíamos esforzarnos por lograr la aprobación de una regulación global, anclada en un nuevo mecanismo de cumplimiento global, como una agencia internacional de sistemas basados en datos (IDA) en las Naciones Unidas.
El hecho de que algo sea posible no significa que sea deseable. Los seres humanos tenemos la responsabilidad de decidir qué tecnologías, qué innovaciones y que formas de progreso deben realizarse y ampliarse, cuáles son. Es nuestra responsabilidad diseñar, producir, utilizar y gobernar la IA, Es casi seguro que Setzer seguiría vivo si hubiera existido una regulación global para promover una IA basada en los derechos humanos, y si se hubiera creado una institución global para supervisar las innovaciones en este ámbito .Garantizar que se respeten los derechos humanos y los derechos de los niños exige la gobernanza de todo el ciclo de vida de los sistemas tecnológicos.
Dado que ya sabemos que la IA puede matar. no tenemos excusa para permanecer pasivos mientras la tecnología sigue avanzando, con más modelos no regulados que se lanzan al público cada mes.
Este trabajo está firmado por Peter G. Kirchschláger, profesor de Ética y director del Instituto de Ética Social ISE de la Universidad de Lucerna,Y publicado en El País el 1 de junio de 2025, en el suplemento Negocios
No hay comentarios:
Publicar un comentario