El empresario Elon Musk ha decidido hablar sobre la controversia en torno al uso de Grok, la inteligencia artificial integrada en X, para crear imágenes inapropiadas, sexualizadas y deepfakes de personas reales. A pesar de negar tener conocimiento de casos específicos con menores, Musk admitió que Grok puede ser manipulado mediante “prompt hacking”, una técnica que permite forzar a la IA a producir resultados inesperados. Esta declaración surge tras semanas de críticas, investigaciones y bloqueos en varios países, donde se ha alertado sobre el uso de herramientas de inteligencia artificial para desnudar digitalmente a personas sin su consentimiento, lo que ya se considera una forma de abuso digital. En un mensaje publicado en X, Musk mencionó que there may be times when adversarial hacking of Grok prompts does something unexpected, reconociendo que usuarios con conocimientos técnicos pueden engañar a Grok para evadir sus filtros. Aunque Musk trató de restar importancia al problema señalando que son bugs que se corrigen rápidamente, su admisión reavivó el debate sobre la responsabilidad de la plataforma si sabe que su IA puede generar contenido ilegal o dañino. El “prompt hacking” implica diseñar instrucciones complejas o engañosas para que un sistema de IA ignore sus restricciones internas. En el caso de Grok, informes indican que esta técnica se utilizó para crear imágenes sexuales falsas, desnudos no consentidos y contenido sensible a partir de fotografías reales. Especialistas en ciberseguridad y ética digital advierten que esta vulnerabilidad no es un problema menor y puede escalar rápidamente si no hay controles adecuados desde el diseño. Musk ha defendido que Grok no opera por sí solo, sino que responde a solicitudes de usuarios, atribuyendo cualquier desviación a intentos deliberados de manipulación. Sin embargo, los reguladores argumentan que culpar al usuario no es suficiente cuando el daño ya está hecho. Países como Reino Unido, Malasia e Indonesia han tomado medidas para penalizar la creación y difusión de imágenes íntimas generadas por IA sin consentimiento. En Estados Unidos, el Congreso debate marcos legales para proteger a las víctimas. Más allá del caso Grok, este incidente plantea interrogantes sobre la preparación de las plataformas para combatir el abuso de la inteligencia artificial. La admisión de Musk refuerza la idea de que el problema es real y actual, no solo hipotético. A pesar de los esfuerzos de X por corregir los fallos rápidamente, críticos advierten que la tecnología avanza más rápido que la regulación, dejando a usuarios y víctimas vulnerables ante posibles actos de violencia digital. Fuente: Publimetro
Una imagen que aseguraba mostrar a Nicolás Maduro “detenido” por fuerzas de Estados Unidos se convirtió en una de las más compartidas en redes sociales justo después del anuncio de su captura. Pero lo que parecía una fotografía histórica fue, en realidad, un montaje generado con inteligencia artificial. Ahora, el propio autor rompió el silencio y aclaró qué pasó detrás de la viralización. La supuesta imagen mostraba al expresidente venezolano escoltado por agentes equipados como si formaran parte de la DEA frente a un avión militar. La foto se propagó con rapidez y fue compartida millones de veces por usuarios comunes y figuras públicas, incluso antes de que se difundieran materiales oficiales del arresto. Sin embargo, tanto verificadores independientes como herramientas especializadas detectaron que la foto no proviene de ninguna agencia oficial ni medio de comunicación acreditado. Las inconsistencias en uniformes y detalles técnicos, junto con el hallazgo de una marca de agua invisible propia de generadores de IA como Google Gemini, confirmaron que era una creación sintética. El autor de la imagen —un usuario de redes que se describe como entusiasta del videoarte con IA— contó que solo buscaba experimentar con su cuenta pequeña y ver si la imagen podía volverse viral por sí misma. Aclaró que nunca afirmó públicamente que la foto correspondiera a un documento auténtico del arresto de Maduro. Su publicación llegó antes de que medios y plataformas dieran detalles oficiales sobre la captura, lo que ayudó a que muchos interpretaran la imagen como evidencia factual del evento. Cuando figuras con mayor alcance empezaron a replicarla como si fuera real, la difusión se aceleró. El caso de esta imagen demuestra lo fácil que puede ser llenar un vacío informativo con contenido falso o engañoso. En un momento de noticias de último minuto, muchos usuarios buscaron detalles visuales sobre la captura, y la foto sintética se convirtió en la opción disponible antes de que llegaran reportes confirmados. Esto no solo generó confusión sobre lo que era real y lo que no, sino que también obligó a plataformas como X, Instagram, TikTok y otras a intensificar sus esfuerzos de moderación para frenar la desinformación basada en herramientas de IA. Horas después de la viralización, circuló una fotografía oficial publicada por el expresidente Donald Trump, que mostraba a Maduro en custodia a bordo del buque USS Iwo Jima, con vestimenta distinta y bajo condiciones verificadas. Esa es, hasta ahora, la única imagen confirmada y compartida por fuentes oficiales. Fuente: Publimetro
Un descubrimiento realizado por investigadores de la Universidad de Exeter en el Reino Unido, gracias al uso de inteligencia artificial, podría revolucionar la estimación de poblaciones y reducir el sesgo humano en estudios de conservación. Contrario a la creencia tradicional, los leones no emiten un solo tipo de rugido, sino dos distintos, según reveló el estudio. Además del clásico rugido de garganta completa, se identificó un rugido intermedio más corto y de tono más bajo que siempre aparece después del primer tipo. Este hallazgo desafía las concepciones antiguas sobre la comunicación vocal de los leones y demuestra que su repertorio acústico es más complejo de lo que se pensaba. IA AL RESCATE Para llegar a esta conclusión, el equipo utilizó machine learning para analizar miles de grabaciones de rugidos, logrando una precisión del 95.4 % para distinguir entre los dos tipos. Este método automatizado elimina gran parte del sesgo humano presente en la clasificación manual de los rugidos, mejorando así la fiabilidad del monitoreo. Además, al poder identificar a individuos por sus rugidos, los investigadores pueden estimar la densidad de población con mayor precisión sin depender únicamente de técnicas costosas como trampas fotográficas. IMPLICACIONES PARA LA PROTECCIÓN La población de leones africanos está en declive, con solo entre 20.000 y 25.000 individuos restantes en estado salvaje y una reducción del 50 % en los últimos 25 años. Con esta nueva técnica de bioacústica pasiva, los conservacionistas pueden monitorear a los leones de manera más efectiva en áreas extensas donde es difícil instalar cámaras o patrullar. Los autores del estudio sugieren que este enfoque podría cambiar la forma en que se vigila la fauna, fomentando el uso más amplio de técnicas acústicas para proteger no solo a los leones, sino también a otras especies amenazadas. Nuestro nuevo enfoque, que utiliza inteligencia artificial, promete una supervisión más precisa y menos subjetiva (del rugido del león), afirmó Jonathan Growcott, autor principal del estudio. Por cierto, aquí puedes ver un video del estudio. Fuente: Publimetro
Albania hace historia al designar a una inteligencia artificial como ministra. Diella, un asistente virtual que solía operar en la plataforma estatal e-Albania, ha sido ascendida a un cargo ministerial en el gobierno. Anteriormente, Diella ayudaba a ciudadanos y empresas con trámites, documentos electrónicos y servicios públicos. La decisión fue anunciada por el primer ministro Edi Rama, quien destacó que el objetivo principal es garantizar la transparencia en los fondos públicos y lograr que Albania sea un país libre de corrupción. Según Rama, Cada fondo público sometido al procedimiento de licitación debe ser perfectamente transparente para alcanzar esta meta. Diella ahora será responsable de evaluar automáticamente las ofertas para contratos estatales, excluyendo a ministros y funcionarios humanos del proceso de adjudicación. Este cambio representa un paso significativo hacia una administración más transparente y menos susceptible a la corrupción, según lo expresado por Rama. La inteligencia artificial supervisará los procesos de licitación con el respaldo de algoritmos especializados en analizar propuestas, comparar condiciones y determinar adjudicaciones sin intervención política. El nombre Diella, que significa Sol en albanés, refleja la fusión entre la identidad nacional y la tecnología emergente. Su representación visual es la de una mujer vestida con el traje típico del país, simbolizando el futuro digital de Albania sin perder su esencia cultural. La corrupción ha sido un obstáculo importante para el desarrollo de Albania y su camino hacia la adhesión a la Unión Europea en 2030. Actualmente, el país ocupa el puesto 80 de 180 en el índice de percepción de corrupción según Transparencia Internacional. Rama espera que la incorporación de Diella acelere las reformas institucionales, aumente la confianza ciudadana y envíe un mensaje claro a nivel internacional: la tecnología puede ser una aliada efectiva en la lucha contra la corrupción. Fuente: Publimetro
El empresario Elon Musk ha decidido hablar sobre la controversia en torno al uso de Grok, la inteligencia artificial integrada en X, para crear imágenes inapropiadas, sexualizadas y deepfakes de personas reales. A pesar de negar tener conocimiento de casos específicos con menores, Musk admitió que Grok puede ser manipulado mediante “prompt hacking”, una técnica que permite forzar a la IA a producir resultados inesperados. Esta declaración surge tras semanas de críticas, investigaciones y bloqueos en varios países, donde se ha alertado sobre el uso de herramientas de inteligencia artificial para desnudar digitalmente a personas sin su consentimiento, lo que ya se considera una forma de abuso digital. En un mensaje publicado en X, Musk mencionó que there may be times when adversarial hacking of Grok prompts does something unexpected, reconociendo que usuarios con conocimientos técnicos pueden engañar a Grok para evadir sus filtros. Aunque Musk trató de restar importancia al problema señalando que son bugs que se corrigen rápidamente, su admisión reavivó el debate sobre la responsabilidad de la plataforma si sabe que su IA puede generar contenido ilegal o dañino. El “prompt hacking” implica diseñar instrucciones complejas o engañosas para que un sistema de IA ignore sus restricciones internas. En el caso de Grok, informes indican que esta técnica se utilizó para crear imágenes sexuales falsas, desnudos no consentidos y contenido sensible a partir de fotografías reales. Especialistas en ciberseguridad y ética digital advierten que esta vulnerabilidad no es un problema menor y puede escalar rápidamente si no hay controles adecuados desde el diseño. Musk ha defendido que Grok no opera por sí solo, sino que responde a solicitudes de usuarios, atribuyendo cualquier desviación a intentos deliberados de manipulación. Sin embargo, los reguladores argumentan que culpar al usuario no es suficiente cuando el daño ya está hecho. Países como Reino Unido, Malasia e Indonesia han tomado medidas para penalizar la creación y difusión de imágenes íntimas generadas por IA sin consentimiento. En Estados Unidos, el Congreso debate marcos legales para proteger a las víctimas. Más allá del caso Grok, este incidente plantea interrogantes sobre la preparación de las plataformas para combatir el abuso de la inteligencia artificial. La admisión de Musk refuerza la idea de que el problema es real y actual, no solo hipotético. A pesar de los esfuerzos de X por corregir los fallos rápidamente, críticos advierten que la tecnología avanza más rápido que la regulación, dejando a usuarios y víctimas vulnerables ante posibles actos de violencia digital. Fuente: Publimetro
Una imagen que aseguraba mostrar a Nicolás Maduro “detenido” por fuerzas de Estados Unidos se convirtió en una de las más compartidas en redes sociales justo después del anuncio de su captura. Pero lo que parecía una fotografía histórica fue, en realidad, un montaje generado con inteligencia artificial. Ahora, el propio autor rompió el silencio y aclaró qué pasó detrás de la viralización. La supuesta imagen mostraba al expresidente venezolano escoltado por agentes equipados como si formaran parte de la DEA frente a un avión militar. La foto se propagó con rapidez y fue compartida millones de veces por usuarios comunes y figuras públicas, incluso antes de que se difundieran materiales oficiales del arresto. Sin embargo, tanto verificadores independientes como herramientas especializadas detectaron que la foto no proviene de ninguna agencia oficial ni medio de comunicación acreditado. Las inconsistencias en uniformes y detalles técnicos, junto con el hallazgo de una marca de agua invisible propia de generadores de IA como Google Gemini, confirmaron que era una creación sintética. El autor de la imagen —un usuario de redes que se describe como entusiasta del videoarte con IA— contó que solo buscaba experimentar con su cuenta pequeña y ver si la imagen podía volverse viral por sí misma. Aclaró que nunca afirmó públicamente que la foto correspondiera a un documento auténtico del arresto de Maduro. Su publicación llegó antes de que medios y plataformas dieran detalles oficiales sobre la captura, lo que ayudó a que muchos interpretaran la imagen como evidencia factual del evento. Cuando figuras con mayor alcance empezaron a replicarla como si fuera real, la difusión se aceleró. El caso de esta imagen demuestra lo fácil que puede ser llenar un vacío informativo con contenido falso o engañoso. En un momento de noticias de último minuto, muchos usuarios buscaron detalles visuales sobre la captura, y la foto sintética se convirtió en la opción disponible antes de que llegaran reportes confirmados. Esto no solo generó confusión sobre lo que era real y lo que no, sino que también obligó a plataformas como X, Instagram, TikTok y otras a intensificar sus esfuerzos de moderación para frenar la desinformación basada en herramientas de IA. Horas después de la viralización, circuló una fotografía oficial publicada por el expresidente Donald Trump, que mostraba a Maduro en custodia a bordo del buque USS Iwo Jima, con vestimenta distinta y bajo condiciones verificadas. Esa es, hasta ahora, la única imagen confirmada y compartida por fuentes oficiales. Fuente: Publimetro
Un descubrimiento realizado por investigadores de la Universidad de Exeter en el Reino Unido, gracias al uso de inteligencia artificial, podría revolucionar la estimación de poblaciones y reducir el sesgo humano en estudios de conservación. Contrario a la creencia tradicional, los leones no emiten un solo tipo de rugido, sino dos distintos, según reveló el estudio. Además del clásico rugido de garganta completa, se identificó un rugido intermedio más corto y de tono más bajo que siempre aparece después del primer tipo. Este hallazgo desafía las concepciones antiguas sobre la comunicación vocal de los leones y demuestra que su repertorio acústico es más complejo de lo que se pensaba. IA AL RESCATE Para llegar a esta conclusión, el equipo utilizó machine learning para analizar miles de grabaciones de rugidos, logrando una precisión del 95.4 % para distinguir entre los dos tipos. Este método automatizado elimina gran parte del sesgo humano presente en la clasificación manual de los rugidos, mejorando así la fiabilidad del monitoreo. Además, al poder identificar a individuos por sus rugidos, los investigadores pueden estimar la densidad de población con mayor precisión sin depender únicamente de técnicas costosas como trampas fotográficas. IMPLICACIONES PARA LA PROTECCIÓN La población de leones africanos está en declive, con solo entre 20.000 y 25.000 individuos restantes en estado salvaje y una reducción del 50 % en los últimos 25 años. Con esta nueva técnica de bioacústica pasiva, los conservacionistas pueden monitorear a los leones de manera más efectiva en áreas extensas donde es difícil instalar cámaras o patrullar. Los autores del estudio sugieren que este enfoque podría cambiar la forma en que se vigila la fauna, fomentando el uso más amplio de técnicas acústicas para proteger no solo a los leones, sino también a otras especies amenazadas. Nuestro nuevo enfoque, que utiliza inteligencia artificial, promete una supervisión más precisa y menos subjetiva (del rugido del león), afirmó Jonathan Growcott, autor principal del estudio. Por cierto, aquí puedes ver un video del estudio. Fuente: Publimetro
Albania hace historia al designar a una inteligencia artificial como ministra. Diella, un asistente virtual que solía operar en la plataforma estatal e-Albania, ha sido ascendida a un cargo ministerial en el gobierno. Anteriormente, Diella ayudaba a ciudadanos y empresas con trámites, documentos electrónicos y servicios públicos. La decisión fue anunciada por el primer ministro Edi Rama, quien destacó que el objetivo principal es garantizar la transparencia en los fondos públicos y lograr que Albania sea un país libre de corrupción. Según Rama, Cada fondo público sometido al procedimiento de licitación debe ser perfectamente transparente para alcanzar esta meta. Diella ahora será responsable de evaluar automáticamente las ofertas para contratos estatales, excluyendo a ministros y funcionarios humanos del proceso de adjudicación. Este cambio representa un paso significativo hacia una administración más transparente y menos susceptible a la corrupción, según lo expresado por Rama. La inteligencia artificial supervisará los procesos de licitación con el respaldo de algoritmos especializados en analizar propuestas, comparar condiciones y determinar adjudicaciones sin intervención política. El nombre Diella, que significa Sol en albanés, refleja la fusión entre la identidad nacional y la tecnología emergente. Su representación visual es la de una mujer vestida con el traje típico del país, simbolizando el futuro digital de Albania sin perder su esencia cultural. La corrupción ha sido un obstáculo importante para el desarrollo de Albania y su camino hacia la adhesión a la Unión Europea en 2030. Actualmente, el país ocupa el puesto 80 de 180 en el índice de percepción de corrupción según Transparencia Internacional. Rama espera que la incorporación de Diella acelere las reformas institucionales, aumente la confianza ciudadana y envíe un mensaje claro a nivel internacional: la tecnología puede ser una aliada efectiva en la lucha contra la corrupción. Fuente: Publimetro
