lunes, 8 de julio de 2024

Luces, penumbras y sombras

 


Si Internet fue la tecnología disruptiva propia de finales del siglo XX, la IA lo será en buena parte de este. La diferencia es el vértigo de la velocidad a la que se perfecciona.



Tan influyente como para bautizar una etapa histórica. Viaja en el tiempo y acerca soluciones que, sin ella, tardarían décadas. En ciencia, salud, energía, educación, medio ambiente… Pero esa capacidad en malas (o torpes) manos, inquieta. Su velocidad pone a prueba una virtud humana: la capacidad de adaptación.

“La IA nos adentra como seres humanos en una nueva realidad, textualmente”, apunta Juan Cigarrán, ex vicerrector de Tecnología en la Universidad Nacional de Educación a Distancia (UNED). Y tanto en el ámbito social como en el laboral y personal, debemos amoldarnos a ella.

¿Con qué consecuencias? Aquí las resumimos del negro al blanco. Algunos de los tonos intermedios ya los conocemos, otros los iremos descubriendo a medida que acelere la IA; o mejor dicho las IA, en su versión discriminativa (patrones y correlaciones en los datos, como el buscador de Netflix) y, sobre todo, generativa.



La nueva era de los descubrimientos (científicos)

Promete enormes avances en investigación y desarrollo de prácticamente todas las disciplinas, desde encontrar materiales alternativos para baterías a la exploración espacial con vehículos autónomos como los que ya analizan la superficie marciana. El impulso a la ciencia ayudará a resolver grandes problemas antes de lo esperado, entre ellos, la comprensión y la cura de enfermedades. Los algoritmos pueden realizar diagnósticos con mayor precisión que los expertos humanos, por ejemplo al identificar en imágenes médicas algunos tipos de cáncer, además de facilitar tratamientos personalizados. En estos casos, es factible que los médicos diagnostiquen desde lugares remotos mediante recursos tan simples como una foto de móvil.



Cada persona es un alumno único

Uno de los clásicos sueños de los educadores empieza a hacerse realidad con plataformas adaptables al ritmo de cada estudiante o aplicaciones que ofrecen tutorías personalizadas. Estas tecnologías pueden supervisar la formación en casa para detectar problemas de aprendizaje o incorporar técnicas de estudio más adecuadas a las habilidades de cada alumno. ¿Serán accesibles para todos los profesores y estudiantes? Este es uno de los grandes retos de las políticas educativas.



Rendimiento empresarial como nunca antes

La automatización, desde la producción a la atención al cliente, impulsa la eficiencia y la productividad además de liberar a los humanos de tareas tediosas para que se dediquen a otras de mayor valor añadido. Puede ser una de las aplicaciones más positivas si se gestiona adecuadamente. Un ejemplo transversal: la optimización de las cadenas de suministro mediante plataformas que predicen ofertas, demandas y reorganizan rutas.



El reverso de la productividad: desempleo

Esa misma automatización puede reducir la necesidad de mano de obra, como en las fábricas que instalan robots de ensamblaje. Uno de los gurús de la IA, el matemático Ben Goertzel, se atrevió a calcular que eliminará el 80% de los empleos. Claro que hablaba de los actuales. Nadie asegura que no pueda crear un 90% de trabajos nuevos, algunos ni imaginados. Lo seguro es que esto vuela, que empresas y administraciones deben aprender a ser más ágiles para adaptarse a la velocidad de las nuevas necesidades. Dos claves: reciclaje laboral y formación continua.



Confiar en ella más que en sus creadores humanos

Las organizaciones que dependen en exceso de la IA para tomar decisiones pueden perder capacidad crítica. Si deja de funcionar Google Maps, ¿sabremos llegar a nuestro destino? Ampliamos esta posibilidad a una desconexión tecnológica completa, que a ciencia cierta nadie sabe si puede ocurrir, y tenemos la trama de Leave the World Behind (Dejar el mundo atrás), película y novela sobre los riesgos de la total dependencia tecnológica. Y sobre la necesidad de mantener una educación alternativa, ajena a la tecnología, en cuestiones relevantes, junto con sistemas de control humano paralelos a los tecnológicos.



Más riqueza... ¿y más desigualdad digital?

Es indudable su capacidad de generar beneficios, pero acarrea el riesgo de que se concentren sobre todo en grandes corporaciones tecnológicas y dejen poco espacio a competidores menores. Las pequeñas tendrán mucho más difícil costear el precio de los sistemas y su implementación. Esa brecha digital se puede dar también en la sociedad: la separación creciente entre quienes tienen a mano o no las tecnologías.



Una relación más personal con las máquinas

Un asistente superdotado que puede ser incluso un amigo. Aplicaciones de reconocimiento de voz ayudan a usuarios con discapacidad o mantienen conversaciones con personas mayores que se sienten solas. Drones entregan kits de supervivencia o localizan a personas desaparecidas. Sistemas cada vez más eficientes predicen amenazas como la trayectoria de un huracán, lo que permite anticipar planes de emergencia. La ayuda de la IA a personas en todo tipo de situaciones vulnerables será bienvenida, aunque, en algunos casos, cuidado con una relación demasiado dependiente en lo emocional.



¿Quién carga con la responsabilidad ética?

La dificultad de atribuir responsabilidades cuando los sistemas fallan, por ejemplo si un vehículo autónomo se ve envuelto en un accidente.



Un asistente puede ser incluso un amigo. La ayuda de la IA a personas en todo tipo de situaciones vulnerables será bienvenida. Pero cuidado con una relación demasiado dependiente en lo emocional


 

Conservación ambiental cuando más falta hace

Drones y satélites monitorizan la biodiversidad y los ecosistemas, analizan cambios en los hábitats y el comportamiento de los animales. Los sistemas IA prometen mejorar la captura de carbono y reducir las emisiones en cualquier actividad, desde el transporte al consumo doméstico o la agricultura de precisión que concilia rendimiento con sostenibilidad.



Esta máquina me ha salido algo prejuiciosa

Los sistemas pueden perpetuar prejuicios presentes en los datos. Por ejemplo, si un algoritmo de contratación favorece a candidatos de cierto género o etnia. Una reciente investigación de Lucía Vicente y Helena Matute, de la Universidad de Deusto, riza el rizo: no solo la IA hereda sesgos humanos, algo comprobado desde hace tiempo, además las personas podríamos heredar sesgos propios de la IA. La cuestión es que sus algoritmos también cometen errores sistemáticos cuando se entrenan con datos procedentes de decisiones humanas sesgadas, y que el modelo IA los aprende, los reproduce y además los completa con los suyos propios. Corremos el riesgo de caer en ese bucle.



Acierta, pero no sabe decir por qué

Algunos modelos complejos son difíciles de interpretar, como uno de aprendizaje profundo que diagnostica enfermedades pero no puede explicar a los médicos el razonamiento detrás. Analizar este tipo de problemas figura entre los objetivos del proyecto AI and Genomics Futures, del Ada Lovelace Institute y el Nuffield Council on Bioethics, que analizará progresivamente los cambios en las capacidades y aplicaciones de la ciencia genómica, junto con su efecto en las personas y la sociedad.



Información y prudencia contra los ‘hackers’

La Organización Europea de Consumidores ya señalaba en 2020 que entre el 45% y el 60% de los europeos temía el abuso de sus datos para fines desconocidos, y el Foro Económico Mundial reclama que “la IA requiere empresas respetuosas con la privacidad… en la forma de adquirir, gestionar y usar esos datos, incluida la utilización de los propios algoritmos”. Inquieta la capacidad de crear contenidos falsos que desinforman o crean confusión, como vídeos donde aparecen figuras públicas haciendo o diciendo cosas polémicas. El refuerzo de la ciberseguridad, incluida la capacidad de detectar esos engaños, tiene réplica en el bando de los malos: aumenta su capacidad de generar ataques y estafas sofisticados, como falsificar correos electrónicos, sitios web o cuentas de famosos que convencen de dar datos o desembolsar dinero.



El gran hermano está en tu cuerpo

Se puede utilizar el reconocimiento facial o de otros datos biométricos para monitorizar y controlar a ciudadanos sin su consentimiento. Al menos este ha sido el temor frente a la idea de Sam Altman, CEO de OpenAI y principal responsable de ChatGPT, de escanear los ojos de todas las personas posibles a cambio de unos 50 euros en criptomonedas. ¿Quiere esos datos para que sus programas IA aprendan con más exactitud?



Armamento para bien y para mal

Los sistemas autónomos, como vehículos aéreos no tripulados, plantean dilemas éticos sobre la guerra automatizada. Amnistía Internacional alerta de que las “operaciones militares con drones se desarrollan en el secretismo más absoluto”. “Nadie rinde cuentas, rara vez los gobiernos investigan, nadie se sienta en el banquillo por los ataques a gente inocente y ninguna víctima civil recibe reparación por los daños sufridos”, advierte. Por otra parte, en manos de unas fuerzas de seguridad responsables, la IA puede fortalecer la lucha contra el crimen por anticipación, al identificar patrones en las actividades delictivas.



Arte, creación y suplantación de la autoría

Permite nuevos tipos de procesos creativos cuando realiza piezas pictóricas o escultóricas según las órdenes del creador de una idea. Pero, ¿a quién corresponden los derechos de autor? La regulación de este nuevo entramado de creaciones, una clara reivindicación del gremio artístico, será ardua tarea. Por otra parte, promete una nueva era de entretenimiento personalizado desde videojuegos y plataformas audiovisuales a, en un futuro, contenidos generados específicamente para el gusto de cada usuario.



La garantía (y la paradoja) de la eficiencia energética

El procesamiento de los datos de generación, distribución y consumo optimiza la gestión de las redes eléctricas, mejora los procesos, reduce pérdidas y eleva el rendimiento de las infraestructuras. Se anticipa a los cambios, la planificación y el mantenimiento preventivo al detectar la posibilidad de fallos. No obstante, se da la paradoja de que los modelos de IA, especialmente los de aprendizaje profundo, consumen grandes cantidades de energía.



¿Te gusta conducir o que te conduzcan?

Los coches autónomos prometen mejorar la seguridad y la eficiencia del transporte. Un informe de la compañía Waymo, especializada en este tipo de vehículos, señala una mejora notable: solo registró tres lesiones relacionadas con accidentes en más de 11,26 millones de kilómetros recorridos, en las ciudades de Los Ángeles, Phoenix y San Francisco. El estudio registró una reducción del 85% en los accidentes que causan lesiones y de un 57% en las tasas de accidentes respecto a un informe anterior, realizado en las mismas ciudades para coches con conductor.





SUSANA PÉREZ DE PABLOS
27 JUN 2024 - 14:27 CEST
https://elpais.com/tecnologia/branded/inteligencia-artificial/2024-06-27/luces-penumbras-y-sombras.html