Artificial intelligence and its challenges
Redactor: Dr. C. Aniano A. Díaz Bombino
La inteligencia humana es considerada como la potencialidad de desarrollo cognoscitivo del sujeto. Todo ello en función de la solución de nuevos problemas y la elaboración de productos que sean valiosos para la sociedad. Consiste esencialmente en el desarrollo de los procesos de análisis, síntesis y generalización cognoscitiva.
Cuando estos propósitos se logran mediante máquinas programadas utilizando un software se está en presencia de la Inteligencia Artificial (IA).
Revista Tino te invita que seas participe de un recorrido por esta temática; con el objetivo de ofrecer una visión más general, viéndolo como un primer acercamiento para conocer, los diversos enfoques, de los retos que ella representa para la sociedad.
Fotos creadas con Inteligencia Artificial
Cada vez es más frecuente la publicación de imágenes hiperrealistas que recrean situaciones inexistentes que confunden a las personas. Conozca la forma para identificar qué imágenes son reales y cuáles son creadas por IA.
¿Cómo saber si una foto es creada con Inteligencia Artificial?
Recientemente en las redes sociales han circulado imágenes generadas por inteligencias artificiales que para muchos usuarios son reales. Por ejemplo, el arresto del expresidente estadounidense Donald Trump. La supuesta nueva especie de felino amazónico con piel de serpiente y la chaqueta blanca del papa Francisco en la Fig. 1.
Muchas personas en redes sociales ven estas imágenes y las comparten con la creencia de su veracidad. No se dan cuenta de que están cayendo en las conocidas fake news, noticias falsas o cuestionables. Que solo buscan desinformar o mal informar a los consumidores sobre temas específicos como la política, las ciencias, la historia y muchos más.
Muchas veces las imágenes de celebridades o personas del ámbito público no necesariamente se crean desde cero. Sino que se producen a partir de fotografías reales y son transformadas mediante IA. Se les puede modificar las expresiones faciales, copiar el rostro y hasta imitar el habla.
Estos casos son conocidos como deepface, las fotografías y videos de celebridades se superponen a otros para hacer fraudes. Por ejemplo que Trump hable a favor o en contra de un caso específico de actualidad en el mundo. En estos casos antes de asumir que son testimonios reales, espere a que los medios especializados en el tema e hablen de ello.
Otra forma de darse cuenta cuando una imagen es creada por una IA es buscar anomalías visuales
Por ejemplo, el aumento o disminución de la cantidad de extremidades, gesticulaciones exageradas, partes borrosas o no entendibles visualmente. Además, muchos creadores de estas fotografías dejan marcas de agua esparcidas aleatoriamente en las imágenes para identificarlas y que las personas reconozcan su trabajo.
También los fondos de las imágenes se ven desenfocados, como si fueran manchones. Pues las IA no siempre recrean texturas y entienden las siluetas como objetos extraños y deformes.
Finalmente, la gran mayoría de rostros van a parecer en un formato y tamaño que parece un documento de identidad. Un primer plano o una mirada directa al espectador, con detalles que a veces se confunden con la misma piel, cabellos y otras partes faciales.
Los expertos avisan: «El buscador con IA de Google es tan peligroso como ChatGPT o Bing»
Google no está dispuesto a renunciar a su rol de gran potencia y coordinador de todo el contenido que se comparte en internet. Y para ello hace falta poner tecnología experimental que sea capaz de desinformar al usuario.
Así quedó claro en el evento anual de desarrolladores Google I/O. El marco escogido en Mountain View para mostrar cómo piensa utilizar inteligencia artificial generativa (IA) similar a ChatGPT. Esa máquina parlante capaz de responder, prácticamente, a cualquier pregunta que teclee el usuario.
Un reducido grupo de personas en Estados Unidos está probando la máquina. Esta no generará respuestas a las consultas más delicadas, como aquellas que tengan que ver con la salud o la política.
También advierte de que el chat inteligente, que robará el protagonismo a los clásicos enlaces azules que dirigen a contenido creado por humanos, «es experimental» con una notificación generada al principio del texto que crea.
A pesar de que la tecnológica promete que ha adoptado un planteamiento «deliberadamente responsable» a la hora de crear el sistema, también reconoce abiertamente que la máquina «no acierta siempre, incluso con las últimas mejoras». El usuario que la use, puede estar desinformado.
Igual de peligrosa que Bing y ChatGPT
En opinión de Ulises Cortés, catedrático de Inteligencia Artificial de la Universidad Politécnica de Cataluña y responsable del grupo de Inteligencia Artificial de Alto Rendimiento del Barcelona Supercomputing Centre, el nuevo buscador de Google sufre los mismos problemas que los sistemas generadores de contenido que han ido lanzando durante los últimos meses empresas de la competencia de los de Mountain View: «En principio, la inteligencia artificial del buscador de Google es tan peligrosa como ChatGPT y como el sistema de IA que anteriormente Microsoft lanzó en su buscador Bing».
A Cortés no solo le preocupa que la tecnología que mueve a la nueva solución de Google pueda cometer errores, también señala que las advertencias de la firma sobre los fallos «son insuficientes» y no servirán para que el usuario corriente, que no está acostumbrado a este tipo de tecnología, «muy potente y con capacidad para cambiar tus hábitos de consumo y tus decisiones», sea consciente de los riesgos, que van más allá de la desinformación, y pueden alcanzar incluso a la privacidad de quien teclea.
«El usuario debe ser consciente de que la información sensible que introduce en un sistema de inteligencia artificial puede ser utilizado para entrenar la herramienta.
Google te lo planteará como una acción colaborativa, pero al final se trata de un negocio», remarca el experto, que enfatiza la velocidad con la que el buscador por antonomasia, ese que actualmente se utiliza para la realización del 90% de las consultas que se realizan en la red, se ha puesto al día para competir contra Microsoft. Empresa que ha comenzado a discutirle su papel protagónico dentro del principal negocio de internet: la publicidad online, por la que Google ingresó más de 160.000 millones de euros en 2022.
Se trata de un cambio radical
El nuevo buscador inteligente de Google también relegará en muchas ocasiones el contenido creado por humanos a un segundo plano. Cuando el usuario realice una búsqueda, lo primero que se encontrará es con una respuesta prefabricada por la inteligencia artificial.
Este también puede iniciar una conversación con el chat inteligente de Google para completar la información sin necesidad de recurrir a ningún otro contenido.
Aunque la empresa ha explicado que el algoritmo solo ofrecerá las respuestas generadas por IA cuando esta lo crea útil, por ejemplo, si se consulta sobre una buena bici para ir por la montaña o un destino vacacional ideal para viajar con niños, medios anglosajones que ya han tenido acceso a la nueva versión de Google apuntan que la IA también genera respuestas a términos genéricos, como el nombre de un cantante o los locales cercanos. «El cambio va a afectar al ecosistema de internet de una forma absolutamente radical. No cabe duda», señala Fernando Checa, profesor de la Universidad Internacional de La Rioja (UNIR) y experto en marketing digital.
«En internet todo pasa por el buscador de Google, más que por redes sociales. Antes de todo se van a mostrar los datos generados por una máquina, y eso afectará a los editores de sitios web, que parece que se van a ver relegados. La gente va a dejar de visitar sitios y se quedará con lo que le ofrezca la IA», remarca Checa. El experto espera que el sistema publicitario de internet cambie. Google, mientras, seguirá «haciéndose de oro». Como siempre.
La UE da el primer paso para regular la inteligencia artificial
Los legisladores del Parlamento Europeo dieron este jueves un primer paso hacia la adopción de una ley que regule las herramientas de la inteligencia artificial (IA), como el ChatGPT. Según información compartida por la UE, este tipo de sistemas deben revelar que el contenido es «generado por inteligencia artificial», lo que hasta ahora no han hecho.
Las empresas de desarrollo también estarán obligadas a «diseñar el modelo para evitar que genere contenido ilegal y publicar resúmenes de datos protegidos por derechos de autor utilizados para la capacitación». Es decir, los modelos como ChatGPT no podrán seguir siendo entrenados con información desarrollada que sea propiedad de editores. Hasta la fecha el sistema no ha sido transparente con los datos que ha empleado para la preparación de sus sistemas, algo que, en caso de que la normativa salga adelante, se deberá corregir.
Los eurodiputados de las comisiones parlamentarias de Libertades Civiles y de Protección de los Consumidores votaron por abrumadora mayoría a favor de limitar el uso de la IA en el bloque, sin dejar de incentivar la innovación en el sector.
La UE quiere tener el marco jurídico
Con este movimiento, la UE quiere ser el primer bloque del mundo en dotarse de un marco jurídico integral para limitar los posibles excesos de la IA, sin perjudicar la innovación. Bruselas lleva años trabajando para regular la inteligencia artificial. En 2021 presentó el primer borrador para conseguirlo, en el que se segmentan las tecnologías que hacen uso de la IA en función de su peligrosidad y se señala las situaciones en las que puede emplearse.
De acuerdo con la normativa, el uso de sistemas de reconocimiento biométrico y facial que pueden calificar socialmente a las personas en función de su comportamiento social, estatus socioeconómico o personal están completamente prohibidas. Además, no será posible recurrir a soluciones de reconocimiento de emociones por parte de agencias de seguridad, controles fronterizos, centros educativos y lugares de trabajo.
«Dado el profundo impacto transformador que la IA tendrá en nuestras sociedades y economías, la Ley de IA es probablemente la pieza legislativa más importante en este mandato. Es la primera legislación de este tipo en todo el mundo, lo que significa que la UE puede liderar el camino para hacer que la IA sea confiable, segura y centrada en el ser humano», ha afirmado el representante rumano Dragos Tudorache.
Bruselas propuso hace dos años un ambicioso proyecto de reglamentación a través de una iniciativa de la Comisión Europea. Los países miembros definieron sus posiciones a finales de 2022. Pero el examen parlamentario se alargó y se retrasó en los últimos meses con el surgimiento de polémicas sobre los peligros de las herramientas de IA capaces de crear textos o imágenes.
Referencias bibliográficas
- Alonso R. (2023). UE primer paso para regular la inteligencia artificial. Recuperado el 20 de mayo de 2023 de https://www.abc.es/tecnologia/informatica/soluciones/ue-primer-paso-regular-inteligencia-artificial-chatgpt-20230511121218-nt.html#vca=modulo-rel-dos&vso=abc&vmc=noticias-rel&vli=tecnologia
- El Espectador. (2023). Cómo saber si una foto es creada con inteligencia artificial. Recuperado el 20 de mayo de 2023 de https://www.elespectador.com/tecnologia/gadgets-y-apps/como-saber-si-una-foto-es-creada-con-inteligencia-artificial/