Mundo, 17 de noviembre 2024 (ATB Digital).- Lex Fridman, conocido por sus entrevistas con figuras clave en el ámbito tecnológico, conversó recientemente con Amanda Askell, filósofa y experta en alineación de modelos de inteligencia artificial en Anthropic. Durante su diálogo, que se transmitió a través del popular canal de Fridman, ambos discutieron los desafíos y oportunidades que plantea la inteligencia artificial avanzada, abordando desde los riesgos asociados con su autonomía hasta su impacto en las decisiones humanas, así como la importancia de garantizar que estas herramientas sean seguras y éticas.
Askell, con una destacada trayectoria en filosofía y ética tecnológica, reflexionó sobre cómo la inteligencia artificial está afectando el comportamiento humano y los desafíos de diseñar sistemas que reflejen valores universales. Entre los temas tratados, destacó la necesidad de transparencia, la democratización del acceso a estas herramientas y las responsabilidades éticas de quienes lideran el desarrollo de la IA.
El riesgo de la autonomía descontrolada
Para la investigadora de Anthropic, la autonomía de la inteligencia artificial no es un problema en sí mismo, pero puede convertirse en un riesgo significativo si los sistemas actúan de manera impredecible o no alineada con los valores humanos: “El mayor riesgo no es que los sistemas sean autónomos, sino que actúen en formas que no anticipamos o que no comprendemos completamente”. Un ejemplo de ello sería un sistema diseñado para optimizar el tráfico que, sin tener en cuenta el impacto social, podría proponer soluciones poco éticas, como cerrar rutas principales, afectando a las comunidades. “Cuando un sistema es lo suficientemente poderoso, incluso las desviaciones pequeñas de un objetivo inicial pueden tener consecuencias enormes”, advirtió Askell.
Según la filósofa, la clave radica en diseñar modelos que no solo sean funcionales, sino que operen bajo restricciones claras y alineadas con principios éticos predefinidos.
Estrategias para limitar los riesgos
Desde su posición en Anthropic, Askell explicó que la supervisión constante y la implementación de principios éticos explícitos son herramientas esenciales para mantener bajo control la autonomía de la inteligencia artificial: “La IA constitucional permite que los modelos operen dentro de un marco ético claro, evaluando sus acciones no sólo con base en datos, sino también según principios predefinidos”. Además, destacó la importancia de un ajuste dinámico, donde los sistemas puedan ser monitoreados y ajustados de forma continua para evitar cualquier desviación: “La supervisión activa y el aprendizaje constante son esenciales para mantener a los sistemas alineados con los valores humanos”.
La concentración de poder: un desafío ético y social
El avance de la inteligencia artificial está transformando las estructuras sociales y económicas, pero su desarrollo se encuentra concentrado en manos de unas pocas organizaciones. Para Askell, este desequilibrio no solo puede ampliar las brechas económicas, sino también limitar la diversidad de perspectivas que deben integrarse en los sistemas de IA: “La inteligencia artificial es una herramienta inmensamente poderosa. Si se concentra demasiado en una sola dirección, podemos terminar ignorando necesidades fundamentales de gran parte de la humanidad”.
Este riesgo se vuelve especialmente crítico en áreas como la educación, la justicia y el empleo, donde los sesgos en los valores que se integran en los sistemas podrían perpetuar la exclusión y la discriminación. “Un sistema diseñado desde un único marco cultural o ético corre el riesgo de no representar adecuadamente la riqueza de valores que existen en diferentes sociedades”, afirmó Askell.
La experta abogó por una democratización del acceso a estas tecnologías y por la colaboración entre empresas, gobiernos y organizaciones independientes para garantizar su uso responsable: “Un ecosistema más inclusivo no solo reduciría riesgos, sino que también ampliaría las oportunidades para aplicar la inteligencia artificial de manera más equitativa”.
El futuro de la interacción humano-máquina
Para Askell, los sistemas actuales, como los asistentes virtuales, son solo el principio de una relación mucho más profunda entre humanos y máquinas: “Estamos avanzando hacia un punto en el que las máquinas no solo responderán preguntas o ejecutarán comandos, sino que se convertirán en colaboradores reales en tareas complejas”.
La filósofa señaló que el diseño de estas interacciones debe equilibrar la innovación con la responsabilidad, asegurándose de que las tecnologías complementen las habilidades humanas en lugar de sustituirlas: “Queremos sistemas que complementen nuestras habilidades, no que las reemplacen por completo. Si las personas comienzan a depender de la IA para tomar decisiones importantes, corremos el riesgo de perder habilidades críticas en el proceso”.
Además, enfatizó que las decisiones que se tomen hoy sobre cómo diseñar estas relaciones tendrán un impacto profundo en el futuro: “La forma en que diseñamos estas interacciones ahora definirá cómo las sociedades se relacionarán con la tecnología en las próximas décadas”.
La conversación entre Lex Fridman y Amanda Askell subrayó que la inteligencia artificial no es solo una herramienta tecnológica, sino una fuerza transformadora que redefine cómo vivimos, trabajamos y tomamos decisiones. Desde los riesgos de la autonomía hasta los desafíos de la concentración de poder, Askell resaltó que el futuro de la IA dependerá no solo de su capacidad técnica, sino también de las decisiones éticas y políticas que tomemos hoy.
“El verdadero desafío no está solo en construir sistemas avanzados, sino en garantizar que sirvan al bienestar colectivo, sin concentrar poder ni perpetuar desigualdades,” concluyó la investigadora.
El futuro de la inteligencia artificial estará determinado tanto por su inmenso potencial como por la capacidad para guiarla con sabiduría y responsabilidad.
Ahora, la gran pregunta es: ¿Estamos realmente preparados para construir una relación con esta tecnología que beneficie a toda la humanidad?
Fuente: Infobae