Internacional
El creador de ChatGPT: “Mi mayor miedo es causar un daño sustancial al mundo. Si la IA sale mal, puede salir muy mal”
Sam Altman responde en el Capitolio a las preguntas sobre los peligros de la Inteligencia Artificial: desempleo masivo, más desinformación y armas autónomas.
“¿Cuál es tu peor pesadilla?”. Éste fue el interrogante más repetido durante la comparecencia en el Senado estadounidense de Samuel (Sam) Altman, co-fundador y CEO de la empresa de Inteligencia Artificial OpenAI, conocida por haber inventado ChatGPT.
En la primera reunión sobre este tema en el Capitolio, celebrada el pasado martes, Altman tuvo que responder a múltiples preguntas provenientes de distintos representantes políticos, republicanos y demócratas, así como de varios expertos. “Mi mayor miedo es que causemos un daño sustancial al mundo –contestó, cauteloso–. Si esta tecnología sale mal, puede salir muy mal”, aunque también aseguró que se mostraba optimista ante los posibles beneficios.
Sin embargo, el ambiente que se respiraba era tenso en una sala donde predominó la preocupación por los riesgos que entraña la Inteligencia Artificial (IA), y el consenso sobre la implementación urgente de algún tipo de regulación, sea en forma de licencias para su uso a partir de los organismos en vigor, o de medidas más rígidas en el contexto de la creación de una agencia estatal, o incluso de acuerdos internacionales. Entre los efectos de la IA que se barajaron destacan su potencial destructivo en el mercado laboral, su rol en promover la desinformación e incluso su capacidad para incidir en el desarrollo de conflictos bélicos.
Una amenaza para la democracia
“Estos sistemas van a ser desestabilizadores; pueden crear y crearán mentiras persuasivas a un nivel nunca visto; desde fuera, se pueden usar para impactar nuestras elecciones; desde dentro, para manipular nuestros mercados y sistema político: la democracia misma está amenazada”, afirmó Gary Marcus, profesor emérito de Ciencia Neuronal y Psicología en la Universidad de Nueva York y fundador de algunas start-ups en el ámbito de la IA. Marcus proporcionó algunos ejemplos de los peligros que representa OpenAI y herramientas similares, como la fabricación de pruebas falsas –indistinguibles de las verdaderas– en un juicio, la posibilidad proporcionar información sanitaria no contrastada, o de alterar la opinión de la ciudadanía mucho más que las redes sociales.
De hecho, la comparación con las redes sociales fue constante entre los asistentes a la sesión, algunos de los cuales advirtieron de no cometer los mismos errores, en referencia a las carencias del actual marco legislativo. En Estados Unidos, las redes están reguladas por la sección 230 de la Ley de Decencia en las Comunicaciones (Communications Decency Act, o CDA), que blinda a multinacionales como Facebook y Twitter de posibles demandas al recaer en los usuarios, y no en las plataformas, la responsabilidad sobre el contenido vertido.
El mismo Altman reconoció que este contexto normativo no servía para una tecnología como OpenAI, que implica mayores riesgos. No obstante, se puede dar el caso de que los efectos nocivos de ambas se sumen, como sugirió la senadora demócrata Amy Klobuchar cuando nombró el siguiente ejemplo verídico: ChatGPT había fabricado un tweet con la ubicación ficticia de varios centros electorales, que luego se difundió en la red de Elon Musk. “Existe una diferencia entre reproducir o generar contenido falso”, alertó Marcus, pero no cabe duda de que la combinación de ambos procesos es problemática.
No es la única sacudida que podría desatar esta Inteligencia Artificial generativa, capaz de clonar voces o elaborar documentos verosímiles con investigación inexistente. “Mi peor pesadilla es la sustitución de millones de trabajadores, la pérdida de millones de empleos”, señaló Richard Blumenthal, senador demócrata. Altman admitió que es una posible consecuencia, a pesar de que confía en que su empresa mejore la calidad del trabajo.
En este sentido, Klobuchar le recordó algunos estudios que señalan la probable desaparición de un tercio de los periódicos estadounidenses para 2025, a lo cual Marcus añadió: “Muchas noticias se van a fabricar con estas herramientas que no son fiables. La calidad del mercado informativo se va a resentir”. Otros congresistas señalaron la necesidad de pagar a los profesionales creativos cuando la Inteligencia Artificial utilice sus obras en la producción de otras, como canciones o literatura. Altman no supo responder a cómo su empresa interactuará con límites legales como los derechos de autor.
¿Una guerra automatizada?
Más angustiados parecían los senadores republicanos Josh Hawley y Lindsey Graham. El primero expresó que, si bien nos encontramos ante una tecnología completamente innovadora, ésta podría empujar grandes mejoras sociales, como la imprenta, o utilizarse con fines contrarios, como la bomba atómica.
El segundo fue más allá y cuestionó el tipo de aplicaciones militares de la IA y cómo modificaría la guerra: “Si un dron que está programado para arrojar misiles aprende los mecanismos, ¿puede llegar a elegir su objetivo?”, inquirió. “No deberíamos permitir eso”, dijo Altman. “Pero, ¿puede ocurrir?”, insistió Graham, y la respuesta fue afirmativa.
Frente a los riesgos que comportaría un contexto bélico regido por armas automatizadas con autonomía para dar muerte, un gran número de ciudadanos desempleados y la penetración masiva de la desinformación en los pocos ámbitos donde no ha calado aún, algunos congresistas recomendaron seguir el modelo europeo, más avanzado en estos temas, pues está ya en marcha un nuevo marco jurídico comunitario en relación con esta tecnología.
Aun así, nadie puede asegurar que las iniciativas legales logren responder con la rapidez y eficacia requeridas ante los retos –políticos, morales– que plantea la Inteligencia Artificial. Regularla es claramente una necesidad, tanto como repensar el modelo regulatorio en sociedades democráticas donde los lobbies a menudo ejercen demasiada influencia sobre los gobiernos.
Que daño va a hacer si ni sirve para una simple pregunta de examen xD
Tengo miedo de que CHATGPT diga que el cielo es rojo y todos crean lo mismo
Interesante ensayo.
Arroyo Claro, gracias por tu comentario a mi comentario. Siempre es agradable saber qué alguien ha leído tus opiniones, aunque luego las critiques. Lo importante es qué haya dialogo, qué sólo
así, por medio de él, se llega a conclusiones válidas.
Tu tienes razón en lo que dices: toda acción humana tiene efectos ambientales. El problema es qué el problema ambiental es tan vasto, qué la mayoría de nosotros sólo tenemos conocimientos parciales acerca de él.
Aprovecho éste momento de diálogo para presentar ante los lectores un aspecto de la problemática ambiental muy especializado y, por tanto, seguro, muy poco conocido. Es, además una demostración clara de qué el hombre está en condiciones de producir efectos geofisicos de impacto ambiental. Hace unos años leí un articulo de la revista «Journal of Geophysics». En él se presentaban los resultados de medidas de precisión de un parámetro importante en geofisica: el llamado » Momento de Inercia» de la Tierra. El momento de inercia es una medida de la distribución de la masa de un cuerpo solido y la Tierra tiene uno, claro, qué viene midiendose desde hace unos 80 años y se mantenía bastante constante de año en año. Sin embargo, y éso
era lo qué informaba el articulo, es qué en los ultimos años: 80- 90, el Momento de Inercia de la Tierra habia variado sensiblemente. ¿ A qué se puede deber la variación relativamente rápida de un parámetro geofisico qué no debería variar mucho? A una sola cosa: esta cambiando la distribución de la masa del globo terráqueo . Los geofísicos qué publicaron el trabajo en cuestión, atribuian el fenómeno al llenado de la gigantesca represa de la Dos ( o Tres) Gargantas construida en China. O sea, vemos qué una acción típicamente humana aparentemente menor, produce efectos planetarios, qué, a su vez, seguro, impactan ambientalmente. ¿ Cómo? Al mover el momento de inercia planetario, se mueve tambien el eje de rotación de la Tierra y, por tanto, variará también la Insolación y con ello el valor de la temperatura media del planeta.
Una prueba de qué estás conclusiones científicas ( y otras aún mas contundentes) son pasadas por el forro por los políticos: hace 2 años le dieron el premio Nobel de Economia a un » Economista» qué » demostró» qué la Economia de la Tierra no sufrirá nada aun si la temperatura de la Tierra aumentaría 3, 5 grados centigrados por encima de la media. Qué un economista, neoliberal, además, no sepa nada de Fisica es normal. Pero, ¿ No saben los cientificos de la Academia Sueca de Ciencias, ni el Comite Nobel, qué el hielo empieza a fundirse unas décimas de grado por encima del cero y qué eso vale para los hielos Articos y Antarticos tambien? Si lo saben, pero, cómo dije antes, se la sudan.
Armand: Todo lo que no es natural altera y contribuye a contaminar el medio ambiente y al ser humano más de lo que nos imaginamos; pero lo ocultan.
«La IA viene acompañada de un alto costo medioambiental. Según un estudio llevado a cabo por la Universidad de Massachusetts en 2019, el desarrollo de modelos de IA de procesamiento del lenguaje natural conlleva un consumo de energía que equivale a la emisión de 280 toneladas de CO2» y «consume 2.6 millones de litros de agua al año para funcionar».
La IA nos quita los puestos de trabajo, contamina y enferma tanto al ser humano como al medio-ambiente, se nos bebe la poca agua de que disponemos sin contar los millones de adictos que han creado las aplicaciones derivadas de ella y que están llevando al ser humano, especialmente a los jóvenes, a cometer verdaderas atrocidades y a inutilizarlos socialmente.
Está muy bien ideada la IA para servir a los inconfesables propósitos de los más poderosos….
Más allá del sensacionalismo, quién explica el motivo de esas declaraciones, por qué se cita en el Capitolio a un ejecutivo, qué significado político o judicial tiene esa comparecencia. La noticia no lo dice y solo se remite a un vídeo en Youtube.
¿La Inteligencia Artificial puede, tendrá tiempo, frenar, por lo menos, (ya qué nunca podra detenerlo) el Cambio Climatico? Si puede, será buena y servirá para algo. Si no puede ni frenarlo un poco siquiera, no hay motivo para tenerle un miedo especial, pues, el rápido apocalipsis que provocará el Cambio, hará qué cualquier daño causado por la IA sera imperceptible.
Lo patético no son los potenciales efectos negativos de la IA, sino qué la Humanidad entera, y en particular la UE, USA, Rusia y China, en lugar de enfrentarse al Cambio, se enzarzan en lo qué ( frente a los que serán los terribles daños terminales en todas las estructuras y las instituciones terrestres producidos por el Cambio) parecen riñas de burdel, donde las peleas a muerte se originan en discusiones acerca de quién la tiene más grande.
En 30- 40 años vista, ya estarán bien establecidos tanto el Cambio Global cómo sus deletereos efectos. Es decir: Una nueva Era Glacial en el Norte y olas de calor abrasante en el Sur.La suma de ésos efectos hará (entre otras cosas) qué todos los países, incluyendo los qué
hoy son potencias económico- políticas, terminen en la condición en la qué hoy están los países llamados del Cuarto Mundo. Es decir, infernales, y tendiendo a empeorar.
Así pues, yanquis, rusos, chinos y europeos a enterrar para siempre vuestros delirios de grandeza y vuestras malditas armas, qué ni Dios os salvará de morir de calor, unos y de frío otros.
El «padrino» de la inteligencia artificial advierte de sus peligros.
Convertido ahora en uno de sus mayores detractores asegura: «NO SEREMOS CAPACES DE SABER QUE ES VERDAD».
Geoffrey Hinton, uno de los científicos que más ha impulsado la inteligencia artificial (y premio princesa de Asturias) ha dejado su cargo de socio investigador en Google PARA PODER HABLAR DE LOS PELIGROS DE LA IA SIN TENER EN CUENTA COMO AFECTA ESTO A GOOGLE.
En una entrevista al New York Times declaró que la forma en que está evolucionando todo desde el lanzamiento de ChatGPT ES PELIGROSA.
Le preocupa que el uso masivo de la IA genere un tsunami de imágenes y textos falsos y augura una crisis profunda de la idea de la realidad, de certeza. NO SEREMOS CAPACES DE SABER QUE ES VERDAD y además supondrá la pérdida de millones de puestos de trabajo.