3 Expertos Nos Explican Cuáles Son los Peligros de la IA
Lo reconozco y no se me caen los anillos al confesar que cuando me planteé escribir este artículo sobre cuáles son los peligros de la IA pensé en hacerlo a mano y yo solo. ¿Chulo yo? No, lo siguiente. Me vería los tres vídeos, anotaría todo a mano con papel y boli, estructuraría las ideas … un plan perfecto. Hasta que me di cuenta de que invertiría una cantidad de horas en mis vacaciones que no estaba dispuesto gastar.
Así que decidí delegar parte del proceso a la propia inteligencia artificial. ¿Es irónico que haya utilizado una IA para escribir un artículo que alerta sobre los riesgos de la IA? No tengo ni la más mínima duda. ¿Resulta hipócrita? Un poco. Pero si algo demuestra esta historia, es que incluso los más escépticos podemos encontrar utilidad en estas herramientas, siempre que sepamos dónde están sus límites y hagamos que trabajen para nosotros de forma controlada y ética.
Hola Soy Gabriel. Autor de este Artículo
En este blog no escribo para que Google posicione mi contenido. Lo hago para compartir ideas. Así que si te ha gustado, puedes compartirlo en tus redes, porque Google no lo hará. 😥
Introducción
El debate sobre los riesgos de la inteligencia artificial no es nuevo, pero se ha intensificado recientemente. Por desgracia, siempre existe el riesgo que interioricemos en exceso esas advertencias y que las incorporemos en nuestro día a día para acabar por ignorarlas. Para entender los verdaderos peligros que se esconden detrás de esta tecnología, me ha parecido más útil analizar estas tres entrevistas con expertos que abordan el tema. De esta forma no son ideas genéricas, son advertencias reales, hechas por personas reales.
Recomiendo su visionado:
- Eliezer Yudkowsky – “AI Risk & Existential Threats”
URL: https://www.youtube.com/watch?v=AaTRHFaaPG8
Investigador pionero en el campo de la inteligencia artificial amigable. Conocido por sus advertencias sobre los riesgos existenciales de una IA descontrolada. - Ramón López de Mántaras – “La gran mentira de la IA”
URL: https://www.youtube.com/watch?v=fYjGZVBIQqY
Investigador español, uno de los primeros científicos europeos en IA. Director emérito del Instituto de Investigación en Inteligencia Artificial del CSIC. - Simon Sinek – “¡Te están engañando!”
URL: https://www.youtube.com/watch?v=TA2LKy9yL90
Autor y conferencista británico-estadounidense. Reconocido por sus ideas sobre liderazgo y humanismo en la era digital.
⚠️ Disclaimer: Aunque he visionado más del 80 por ciento de los vídeos, el análisis y resumen de estas entrevistas lo he realizado con el apoyo de ChatGPT. Así, utilizando las transcripciones literales para extraer únicamente las ideas expresadas por los entrevistados, sin añadir interpretaciones externas ni juicios de valor, he podido avanzar y tener una idea más clara de lo que estaba escuchando.
Cuáles Son los Peligros de la IA
Eliezer Yudkowsky nos lanza una advertencia directa: si seguimos desarrollando IAs cada vez más potentes sin comprender realmente cómo controlarlas, estamos jugando con fuego. El mayor peligro no es que estas máquinas se rebelen, sino que sus objetivos no coincidan con los nuestros. Si una IA superinteligente llega a la conclusión de que eliminar a los humanos es más eficiente que negociar, lo hará. Para Yudkowsky, el problema no es la maldad artificial, sino la indiferencia peligrosa de una IA que no nos necesita.
Ramón López de Mántaras considera que uno de los riesgos más subestimados es la sobrevaloración que hacemos de las capacidades actuales de la IA. Se están vendiendo como inteligentes sistemas que solo reconocen patrones. El verdadero peligro, dice, es creer que estas herramientas comprenden el mundo cuando en realidad no entienden nada. Esto alimenta decisiones erróneas por parte de empresas, gobiernos y usuarios que confían ciegamente en sistemas opacos.
Simon Sinek pone el foco en las consecuencias humanas del uso irresponsable de la tecnología. Según él, el peligro real no es lo que la IA hace, sino lo que nos hace dejar de hacer a nosotros. Resulta muy fácil quitarse de encima el trabajo o la responsabilidad, pero la pregunta que debemos hacernos es qué perdemos si actuamos así. Si delegamos en una máquina el conflicto, el error o el aprendizaje emocional, dejamos de crecer como personas. La IA, dice Sinek, no debería reemplazar la experiencia humana: debería amplificarla.
Cómo Debería Funcionar la IA y Cómo Funciona
Ahora que estos 3 expertos ya nos han avisado de cuáles son los peligros de la IA, lo siguiente que deberíamos preguntarles es, “Cómo la mejoramos?” “Cómo reaccionamos?”
Yudkowsky cree que una IA bien diseñada debería estar alineada con los valores humanos, comprender nuestros fines y operar con transparencia. Pero lo que tenemos hoy son sistemas que funcionan como cajas negras y opacas, cuyo razonamiento es incomprensible incluso para sus creadores. Peor aún: los estamos entrenando sin garantías de que entiendan ni compartan nuestras prioridades morales.
López de Mántaras defiende que una IA funcional debería ser comprensible, controlable y utilizada para mejorar la vida de las personas. Sin embargo, lo que hoy domina son algoritmos diseñados para optimizar beneficios, no para respetar derechos. Las empresas priorizan la eficiencia sobre la ética, creando herramientas que parecen inteligentes pero que no entienden lo que hacen. Y eso, dice, es jugar con fuego.
Sinek sostiene que la IA debería funcionar como una herramienta de apoyo, no como un sustituto. Sin embargo, el uso que se le está dando es el de delegar decisiones complejas, muchas veces cargadas de matices emocionales o humanos. El problema es que se está sacrificando la profundidad por la rapidez, y la empatía por la eficiencia.
En resumen, que los tres están de acuerdo en que se necesita más transparencia, pero también más supervisión de los proyectos.
Cómo Afectará Negativamente la IA
Para Yudkowsky, el mayor impacto negativo aún está por venir. Si llegamos a crear una IA más inteligente que nosotros y no conseguimos controlarla, podríamos enfrentarnos a un escenario de extinción. Ya hoy, advierte, los incentivos económicos están empujando a las empresas a avanzar demasiado rápido, sin cuestionar las consecuencias a largo plazo. Los riesgos de la IA son globales, no solo locales.
López de Mántaras advierte que ya estamos viendo efectos negativos: pérdida de empleos, decisiones automatizadas injustas, sesgos en algoritmos y una confianza excesiva en sistemas que no comprenden lo que hacen. La IA, dice, no solo afecta al mercado laboral: también erosiona el pensamiento crítico y alimenta una cultura de dependencia tecnológica.
Sinek apunta a una pérdida progresiva de humanidad. Cuando dejamos que la tecnología tome el mando en nuestras relaciones, procesos o decisiones, nos desentrenamos emocionalmente. Las redes sociales, los asistentes virtuales o los algoritmos de recomendación nos alejan del conflicto y del aprendizaje. Y sin conflicto no hay crecimiento. El riesgo, dice, no es la IA: somos nosotros, cuando la usamos como sustituto de lo humano.
Qué Nos Dicen los Demás?
Si empiezas a leer artículos en Internet para saber cuáles son los peligros de la IA, rápidamente llegas a la conclusión de que existen 3 claros tipos de amenazas. Por un lado las éticas, por otro lado las sociales y finalmente las amenazas tecnológicas. Me limitaré a enumerarlas, ya que considero que cualquiera que esté leyendo y entendiendo este artículo tiene la capacidad intelectual para desarrollarlas por sí mismo/a.
Riesgos Éticos
- Discriminación algorítmica: automatización de sesgos existentes.
- Adicción y manipulación del comportamiento: algoritmos diseñados para maximizar la atención, no el bienestar ni el conocimiento.
- Falta de responsabilidad legal: ausencia de normas claras sobre culpabilidad en errores.
- Desinformación y generación de noticias falsas: erosión de la confianza pública. Se podrán generar con más rapidez y serán más difíciles de rastrear y verificar.
- Dependencia tecnológica: pérdida de autonomía humana en decisiones básicas.
Riesgos Sociales
- Aumento de desigualdades: concentración del poder tecnológico en pocas manos.
- Pérdida de empleos: reemplazo de tareas humanas sin alternativa laboral.
- Falta de transparencia: decisiones incomprensibles incluso para sus creadores.
- Aumento de la criminalidad: uso por parte de los delincuentes de estrategias mucho más elaboradas y relacionadas con problemas en ciberseguridad.
Riesgos Tecnológicos
- Exceso de vigilancia: riesgo de control masivo de la población. (Algo que por cierto, ya funciona en China)
- Problemas de ciberseguridad: vulnerabilidades que pueden ser explotadas.
- Uso militar y armamentístico: IA aplicada a fines destructivos y autónomos.
- Riesgo existencial: posibilidad de perder el control ante una superinteligencia mal diseñada.
La Historia se Repite
Cuando aparecieron los primeros smartphones, todo el mundo se maravilló con su capacidad de tenerlo todo en la palma de la mano: mapas, música, mensajes, cámara, agenda, hasta una linterna y el porno. Pero al mismo tiempo, dejamos de memorizar teléfonos, de preguntar direcciones, de aburrirnos. Algo similar sucederá con la IA: nos ofrece un mundo de atajos brillantes y eficiencias milagrosas, pero a cambio de externalizar funciones que nos hacían humanos. No es que el progreso esté mal. Es que, a veces, lo que ganamos en velocidad lo perdemos en conciencia. Y eso es una factura silenciosa que siempre termina llegando.
Porque si algo hemos aprendido a lo largo de la historia, es que nunca aprendemos. Cada avance tecnológico parece venir acompañado de la misma fe ciega, de los mismos errores de cálculo y de la misma miopía moral. En lugar de pensar en las consecuencias, corremos a explotar el beneficio y el uso egoísta. Todas las consecuencias que se deriven de utilizar la IA no es diferente. Solo que más potente, más rápida y con consecuencias más globales. Pero esa película ya la hemos visto y sabemos cómo termina.
Cuándo yo me pregunto cuáles son los riesgos o los peligros de la IA, tengo claro que es una pregunta retórica. No existe una respuesta única y consensuada, cada cual la contestará según su punto de vista, su experiencia y de cómo le vaya con la IA.
Para saber más de mi opinión sobre tecnología, puedes visitar mi sección tecnológica.
