¿La IA podría tomar decisiones sobre nuestras vidas? Catrin Misselhorn revela hasta dónde pueden llegar las máquinas
La filósofa conversó con Jorge Fontevecchia sobre los riesgos de delegar decisiones morales a sistemas de inteligencia artificial y explicó por qué considera que esta tecnología ya no puede entenderse como una simple herramienta.
En una nueva entrega de ‘Periodismo puro’, Jorge Fontevecchia entrevistó a la filósofa alemana Catrin Misselhorn, autora de La inteligencia artificial y el fin del arte y especialista en ética de las máquinas, durante su visita a Buenos Aires para participar del encuentro Pausar la IA, organizado por el Goethe-Institut. La conversación giró alrededor de uno de los interrogantes más complejos que plantea el avance tecnológico: si las máquinas pueden tomar decisiones morales por sí mismas y hasta qué punto los seres humanos deberían permitirlo.
La especialista explicó que, a diferencia de otras tecnologías, los sistemas de inteligencia artificial pueden desarrollar comportamientos que sus propios creadores no logran anticipar ni controlar por completo.
Durante la entrevista, Fontevecchia planteó cómo cambia la discusión ética cuando el foco deja de estar exclusivamente en las personas que utilizan una tecnología y comienza a trasladarse hacia las propias máquinas. Misselhorn explicó que esta nueva disciplina, también conocida como moral artificial, estudia la posibilidad de construir sistemas capaces de tomar decisiones con implicancias morales.
Sin embargo, aclaró que el verdadero desafío no consiste únicamente en determinar si esto es técnicamente posible, sino también en establecer en qué situaciones sería correcto permitir que una inteligencia artificial tome decisiones que afectan a los seres humanos. Para la filósofa, existen aplicaciones en las que esa autonomía puede resultar aceptable, mientras que en otras deberían establecerse límites.
Uno de los conceptos más contundentes que desarrolló la invitada fue su rechazo a considerar la IA como una herramienta convencional. “Mucha gente dice que es una herramienta pero yo creo que no lo es”, sostuvo, al explicar que una herramienta tradicional depende de una persona que la utiliza para cumplir un propósito definido. En cambio, los sistemas de inteligencia artificial pueden actuar como agentes capaces de ejecutar acciones orientadas a objetivos sin que sus desarrolladores puedan prever exactamente cómo lo harán. Esta autonomía, según la especialista, marca una diferencia fundamental respecto de otras tecnologías y obliga a reconsiderar la manera en que se analiza su responsabilidad moral.
