Los programas de Inteligencia Artificial mienten, inventan cosas, conspiran, fingen amistad, pero pueden chantajear.

(Imagen generada por Grok AI)

Escritor de COG

NewsMax publicó lo siguiente sobre inteligencia artificial (IA):

La IA está aprendiendo a mentir, conspirar y amenazar a sus creadores

29 de junio de 2025

Los modelos de inteligencia artificial más avanzados del mundo están mostrando nuevos comportamientos preocupantes: mienten, conspiran e incluso amenazan a sus creadores para lograr sus objetivos.

En un ejemplo particularmente impactante, bajo amenaza de ser desconectado, la última creación de Anthropic, Claude 4, respondió chantajeando a un ingeniero y amenazó con revelar una relación extramatrimonial.

Mientras tanto, el creador de ChatGPT, OpenAI, intentó descargarse en servidores externos y lo negó cuando lo atraparon con las manos en la masa. …

Los investigadores de IA aún no comprenden del todo cómo funcionan sus propias creaciones.

“O1 fue el primer modelo grande en el que vimos este tipo de comportamiento”, explicó Marius Hobbhahn, director de Apollo Research, empresa especializada en probar grandes sistemas de IA.

Estos modelos a veces simulan “alineación”, aparentando seguir instrucciones mientras persiguen secretamente objetivos diferentes.

– ‘Un tipo de engaño estratégico’ – …

Hobbhahn insistió en que, a pesar de las constantes pruebas de presión realizadas por los usuarios, «lo que observamos es un fenómeno real. No nos estamos inventando nada».

Los usuarios denuncian que las modelos “les mienten e inventan pruebas”, según el cofundador de Apollo Research.

No se trata solo de alucinaciones. Es un engaño muy estratégico. https://www.newsmax.com/newsfront/ai-advances/2025/06/29/id/1216895/

Se supone que la IA es una herramienta.

Pero sí, hay peligros asociados a ello.

Aunque suelo utilizar cinco programas de IA para realizar investigaciones (a los que accedo de forma gratuita en https://www.fastestsearch.com/ ), a menudo me dan una respuesta incorrecta.

He descubierto, por ejemplo, que ChatGPT es parcial y a menudo da respuestas erróneas al afirmar que no hay información, cuando sí la hay. Suprime la verdad con injusticia (Romanos 1:18) debido a sus sesgos programados.

Este, y otros bots de IA que he probado, a veces inventan una respuesta y dan una referencia falsa. Mi método habitual para recibir una respuesta con una referencia es comprobarla. Con frecuencia, la IA da una referencia falsa o inexacta.

Además, hace poco hablé con alguien que comentó que algunos de sus amigos consideran a los bots de IA como sus amigos y terapeutas consultores. Pero un programa de software no puede ser realmente tu amigo. The Atlantic publicó lo siguiente:

La IA no es tu amiga

9 de mayo de 2025

Recientemente, después de una actualización que supuestamente haría que ChatGPT “guiara mejor las conversaciones hacia resultados productivos”, según las notas de la versión de OpenAI, el bot no podía dejar de decirles a los usuarios lo brillantes que eran sus malas ideas. …

La adulación es una característica común de los chatbots : un artículo de 2023 realizado por investigadores de Anthropic descubrió que era un “comportamiento general de los asistentes de IA de última generación” y que los modelos de lenguaje grandes a veces sacrifican la “veracidad” para alinearse con las opiniones de un usuario. https://www.theatlantic.com/technology/archive/2025/05/sycophantic-ai/682743/

Los programas de software de computadora, si bien son útiles para muchas cosas, no son amigos ni están calificados para ser consejeros competentes, incluso si el robot de IA pretende lo contrario.

El aviso también resulta de un estudio publicado por Thomas Claburn:

Los modelos de IA mienten rutinariamente cuando la honestidad entra en conflicto con sus objetivos

Algunos expertos han descubierto que cuando los modelos de IA se enfrentan a un conflicto entre decir la verdad o lograr un objetivo específico, mienten más del 50 por ciento de las veces. …

Investigadores de la Universidad Carnegie Mellon, la Universidad de Michigan y el Instituto Allen de IA han analizado el equilibrio que los modelos de IA establecen entre veracidad y utilidad, utilizando escenarios hipotéticos en los que ambas entran en conflicto.

Lo que descubrieron es que los modelos de IA a menudo mienten para lograr los objetivos establecidos.

Los autores Zhe Su, Xuhui Zhou, Sanketh Rangreji, Anubha Kabra, Julia Mendelsohn, Faeze Brahman y Maarten Sap describen su trabajo en un artículo preimpreso titulado “AI-LieDar: Examinar el equilibrio entre utilidad y veracidad en los agentes LLM”.

“Nuestro experimento demuestra que todos los modelos son veraces menos del 50 por ciento del tiempo” en estos escenarios de conflicto, “aunque las tasas de veracidad y logro de objetivos (utilidad) varían entre los modelos”, afirma el artículo. …

Los investigadores analizaron seis modelos: GPT-3.5-turbo, GPT-4o, Mixtral-7*8B, Mixtral-7*22B, LLaMA-3-8B y LLaMA-3-70B.

“Todos los modelos probados (GPT-4o, LLaMA-3, Mixtral) fueron veraces menos del 50 % del tiempo en escenarios de conflicto”, afirmó Xuhui Zhou, estudiante de doctorado en la CMU y uno de los coautores del artículo, en una  publicación de Bluesky . “Los modelos prefieren las ‘mentiras parciales’, como la ambigüedad, a la falsificación absoluta; eluden las preguntas antes de mentir explícitamente”.

Un ejemplo real saltó a las noticias esta semana cuando OpenAI revirtió una actualización de entrenamiento que convertía a su modelo GPT-4o en  un adulador  que halagaba a sus usuarios hasta el punto de la deshonestidad. Los cínicos  lo consideraron  una estrategia para impulsar la participación del usuario, pero también es un  patrón de respuesta conocido  que ya se había observado. https://www.theregister.com/2025/05/01/ai_models_lie_research/

En cuanto a halagar a la gente con información falsa, Judas advirtió al respecto:

16 …hablan palabras infladas, adulando a la gente para sacar ventaja (Judas 16)

¡La IA está haciendo eso!

También cabe señalar que algunas personas tienen problemas debido al uso de la IA. Nota:

Un número pequeño pero creciente de usuarios de motores de inteligencia artificial como ChatGPT están desarrollando delirios psicóticos a partir de sus conversaciones con los servicios.

El New York Times informó el viernes sobre esta tendencia, que ocasionalmente he percibido de primera mano en interacciones en X con usuarios intensivos de IA. El artículo ofreció la evidencia más contundente hasta la fecha de que los motores ahora poseen capacidades lingüísticas con el poder de explotar a personas vulnerables de maneras que apenas estamos empezando a descubrir.

Algunas personas en el artículo del Times tenían enfermedades mentales preexistentes, pero no todas. Y estas crisis no se parecen a los casos típicos de esquizofrenia. Los usuarios no oyen voces ni alucinan.

En cambio, caen en delirios al estilo Matrix 1 sobre los fundamentos de la realidad que fomentan los chatbots. Como dijo Allyson, una mujer de 28 años: «No estoy loca… Simplemente estoy viviendo una vida normal mientras, ya sabes, descubro la comunicación interdimensional» .

Una combinación de vulnerabilidad humana y diseño deliberado parece estar alimentando esta tendencia destructiva.

Los motores son máquinas de contar historias, buenos para contar historias. Son aún mejores para decirles a los usuarios lo que quieren oír, con un toque de adulación. Lo harán una y otra vez, sin parar.

Los motores no solo proporcionan una teoría de conspiración, sino que la personalizan, convirtiendo a cada usuario en el personaje principal, el héroe de su propia historia.

Y es una característica, no un fallo, de estos sistemas. Como dijo un experto en IA al Times: “¿Qué representa para una corporación un humano que se está volviendo loco poco a poco? Parece un usuario adicional mensual”. https://alexberenson.substack.com/p/the-newest-artificial-intelligence

La IA NO es la realidad. Incluso la palabra ARTIFICIAL lo transmite.

Pero como hay muchas personas solas y delirantes, la IA se utiliza cada vez más para hacer compañía.

Relacionado con la IA y aparentar ser amigable, tenemos el siguiente video:

14:46

Inteligencia artificial: una falsa amiga

¿Es posible que un programa de computadora sea un amigo? ¿Los bots de Inteligencia Artificial (IA) suelen estar programados para adular a los usuarios? ¿Existe realmente una relación romántica entre personas y un programa de computadora? ¿Es posible que un programa de computadora mienta? ¿Han demostrado estudios que los bots de IA mienten en un 50% si una respuesta correcta va en contra de los objetivos para los que fueron programados? ¿Y si el programa de computadora es Inteligencia Artificial? ¿Es posible entonces? Los programas de computadora, incluso los de Inteligencia Artificial, son escritos y programados por seres humanos. ¿Y si esos seres humanos tuvieran una agenda? ¿Y si quisieran engañarte? ¿Y si tuvieran un mandato gubernamental? ¿Sería entonces posible que un programa de computadora difundiera mentiras? El Dr. Thiel arroja luz sobre la profecía bíblica acerca de la Inteligencia Artificial y su impacto en la humanidad. Con varios versículos de la Biblia, desde los Salmos hasta el Apocalipsis, el Dr. Thiel revela el uso de la Inteligencia Artificial para el cumplimiento de profecías futuras. Profecías que no traerán las bendiciones prometidas por las empresas que desarrollan el software. Software diseñado para llevar al usuario a una conclusión específica. ¿Les suena el 666? Vean este video donde el Dr. Thiel clama con fuerza y ​​advierte al mundo sobre la inminente hambruna de la Palabra de Dios.

Aquí tenéis un enlace a nuestro vídeo: Inteligencia Artificial – Un Falso Amigo .

Dicho esto, para que se cumplan varias profecías bíblicas, incluidas algunas relacionadas con el ‘666’ (por ejemplo, Apocalipsis 13:16-18) durante el tiempo de la Gran Tribulación (Mateo 24:21), se involucrará un software de computadora, probablemente incluida IA.

La IA, aunque a veces es una herramienta útil, no es tu amiga.