“Nos manipulará y no lo notaremos”: Exempleado de Open IA advierte que se avecina un desastre

@rcnradiocolombia

#Hiperdata | Tus videos tienen pocas visitas y likes? No es tu culpa, solo necesitas la herramienta correcta. 🤯 Si tienes un Xiaomi 14 Pro+ 5G, la IA que trae en su editor de videos puede hacer TODO por ti: elegir los mejores clips, agregar efectos, sincronizar con música viral y dejarte un video listo para romperla en redes. #Tecnología #Trucos #Hacks #Xiaomi14ProPlus #VideosVirales #TechHacks #VideoEditor #Tendencias

♬ sonido original - RCN Radio Colombia

Según Saunders, la sociedad está subestimando los riesgos de la inteligencia artificial y no está preparada para lo que viene.

Su testimonio no es aislado. En los últimos meses, varias voces dentro de la industria han expresado preocupaciones sobre la acelerada evolución de la IA, incluyendo antiguos empleados de OpenAI que han abandonado la empresa por desacuerdos en la gestión de la seguridad de estos modelos.

La IA como el Titanic moderno: ¿Estamos confiando demasiado?

La comparación de Saunders con el Titanic no es solo un recurso dramático; es una analogía inquietante. En 1912, el Titanic fue presentado como un barco indestructible, el pináculo de la tecnología naval de su época. Pero la excesiva confianza en su invulnerabilidad llevó a una catástrofe que hoy es parte de la historia.

Para Saunders, la inteligencia artificial sigue el mismo camino. “Nos manipulará y no lo notaremos”, advirtió en una entrevista con la cuenta de divulgación tecnológica @chatgptricks. Su preocupación radica en que la IA tiene el potencial de influir en nuestras decisiones sin que seamos conscientes de ello.

Le puede interesar: Países en los que usuarios iPhone tendrán internet gratis ¿estará disponible en Colombia?

Desde la personalización de contenido hasta los asistentes de voz, cada día la inteligencia artificial toma más control sobre nuestras elecciones. Pero, ¿qué podría si estos modelos se vuelven tan avanzados que puedan persuadir a las personas sin que estas lo noten?

Saunders afirma que OpenAI y otras empresas del sector no están haciendo lo suficiente para evitar este escenario, lo que podría llevarnos a un desastre tecnológico sin precedentes.

El dilema de OpenAI: Innovación vs. Seguridad

La inteligencia artificial generativa ha demostrado un potencial impresionante, pero también ha encendido las alarmas sobre sus posibles riesgos. Actualmente, el debate se desarrolla en torno a la gran pregunta: ¿se está priorizando el negocio sobre la seguridad?

Saunders no es el único que lo cree. En los últimos meses, varios empleados han salido de OpenAI –algunos por decisión propia, otros despedidos– tras expresar su desacuerdo con la forma en que la empresa está manejando el desarrollo de sus modelos.

OpenAI se encuentra en una carrera feroz contra gigantes como Google DeepMind, Anthropic y Mistral para desarrollar la primera inteligencia artificial general (AGI, por sus siglas en inglés), un modelo capaz de razonar y aprender de manera similar a los humanos. Pero esa competencia despierta una gran preocupación, ante la posibilidad de que se estén dejando de lado medidas de seguridad cruciales, por el afán de lanzar una IA más potente que la competencia.

Más noticias: Simulación revela cuál sería la destrucción que causaría el impacto del asteroide 2024 YR4 en Bogotá

Sam Altman reconoce la paradoja de la IA

Incluso el propio Sam Altman, CEO de OpenAI, ha reconocido públicamente que la inteligencia artificial es un arma de doble filo. En múltiples ocasiones, ha advertido sobre los peligros potenciales de esta tecnología, llegando a decir que no existe un "botón rojo" para detener la IA si se vuelve incontrolable.

"Mi peor temor es que le causemos un gran daño al mundo", llegó a declarar el propio Altman en una entrevista.

Al mismo tiempo, el CEO de Open AI ha sido un firme defensor de los beneficios de la IA y su potencial para transformar industrias enteras. Pero este progreso también trae consigo un gran precio, pues representa implementar una automatización que acabaría con millones de empleos en el futuro.

De hecho, OpenAI ha identificado varios sectores en riesgo debido a la influencia de la inteligencia artificial, incluyendo el servicio al cliente, redacción de contenido y algunas funciones en el área de la salud. Es por eso que Altman promovió proyectos como Worldcoin, que plantea un sistema de identificación digital a través del iris y la posibilidad de una renta universal en un mundo donde el trabajo humano podría volverse menos relevante.