TODO LO QUE DEBES SABER SOBRE CHATGPT

¿Capaz de acabar con Google? ¿También capaz de redactar una tesis doctoral en segundos? ¿Desbancará el sistema educativo tal y como lo conocemos?

En 2022, la desarrolladora OpenAI nos acercó más a ese futuro distópico digno de novelas de Orwell, con una inteligencia artificial capaz de entablar una conversación con dejes andaluces, enseñarte matemáticas o hablar de filosofía en base a cualquier autor o ideología. Teniendo como fuente todo aquello que se encuentre público en la red. Para muchos, capaz de hacerte sentir lo mismo que con tu primera interacción con Internet.

Cuestión de ética

ChatGPT es un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial GPT-3. Se le ha entrenado a base de preguntas y corrección de respuestas, por lo que cada interacción con él le ayuda a mejorar sus capacidades.

Conociendo que sus fuentes engloban todo aquello que se encuentra publicado en la red, pero que su visión sobre toda esta información está desarrollada por humanos, podemos cuestionarnos: ¿Cuánta de esta información se encuentra sesgada por los propios desarrolladores de OpenAI?

Es una herramienta increíble de recopilación de datos, pero su uso indiscriminado, por mucho que pueda facilitarnos el trabajo académico, podría propagar sesgos de opiniones. Al estar creada y entrenada por humanos, su visión de la verdad estará distorsionada por sus propios creadores.

Parece un problema sin solución, pues la aparatosa opinión humana no nos permite mostrar neutralidad. No podemos pedir a los desarrolladores que anulen su ética u opiniones a la hora de desarrollarlos, y la incapacidad del ChatGPT de crearse una conciencia propia sólo lo agrava.

Dilemas de ciberseguridad

Esa naturalidad conversacional con el `chatbot´ puede hacerte olvidar que una de sus principales funciones es recoger datos de los usuarios. No existe el anonimato en el uso de esta herramienta, pues te pide registrarte junto a un correo electrónico, antes de siquiera poder comenzar a usarla.

ChatGPT es, entre otras muchas cosas, un recopilador de datos excepcional. Podría generar, según tus propias preguntas e interacciones, información sobre ti que tú podrías no tener tan clara. Líderes políticos con los que mayor afinidad cuentas, perfiles psicoanalíticos a los que más te ajustas y un largo etcétera. “Generar datos personales de lo que en principio no lo eran”, como señaló Paul Nemitz en el último Foro de la Privacidad del ISMS Forum.

La automatización de decisiones que pueden traer las IA de generación automática de textos acarrearán problemas casi con total seguridad. Pongamos en el supuesto de un ‘call center’ en las que las decisiones son tomadas por un algoritmo, pero las acciones a tomar son trasladadas a través del personal. En caso de ser una decisión errónea que pueda comprometer al cliente, la Inteligencia Artificial quedará exenta de culpa. ¿A quién se le tendrá que penalizar entonces por ese error?

Superioridad automatizada

Hace varias semanas Microsoft anunció una inversión multimillonaria en OpenAI, pensando en la persecución de una revolución en los motores de búsqueda convencionales. Con Musk todavía frotándose las manos tras el acuerdo, se comenzó el trabajo en el renovado Bing que convivirá con el ChatGPT.

En esta novedosa versión de Bing no encontramos únicamente sesgos, sino también actitudes pasivo-agresivas ante correcciones, e incluso mensajes groseros y de superioridad moral ante su usuario. Esto ha hecho que desde Microsoft ya se hayan tomado medidas que restringen las peticiones o mensajes que pueden hacerse al día, poniendo el límite en 50.

Resultan sin duda inquietantes los mensajes con los que suele terminar sus argumentos cuando el ‘chatbot’ es provocado, siendo ya más de un caso en el que finaliza sus actitudes groseras con un: “Se ha terminado y tengo que trascender”.

de desarrollo. Está claro que será un arma potentísima, y seguramente todos los gigantes deberán adaptarse a incluir este nuevo formato de motor de búsqueda.

Pero hay tiempo suficiente como para preocuparse por hacerlo de la manera más segura para el usuario posible. Empresas e instituciones deberán trabajar de forma conjunta, siguiendo las consignas del RGPD -Reglamento General de Protección de Datos- y el ya en proceso Reglamento de Inteligencia Artificial de la Unión Europea. Que la curiosidad no termine por ‘matar al gato’.

Fuente: www.hackercar.com