El auge de ChatGPT plantea cada vez más preguntas sobre seguridad

En los últimos meses se ha prestado cada vez más atención a ChatGPT y a las aplicaciones que utilizan su API. Este es un chatbot enormemente desarrollado de OpenAI, que se basa en el gran modelo de lenguaje GPT-4, lo que lo convierte en el socio definitivo para literalmente cualquier cosa. Puedes preguntarle prácticamente cualquier cosa y recibirás una respuesta inmediatamente, incluso en checo. Por supuesto, estas no tienen por qué ser preguntas corrientes, cuyas respuestas se pueden encontrar en cuestión de segundos a través de Google, sino que también pueden ser preguntas mucho más exigentes y complejas, relacionadas, por ejemplo, con la programación, la generación de textos y la como.

Con esto, ChatGPT puede generar el código completo para las necesidades de su aplicación en cuestión de segundos, o crear la utilidad completa directamente desde cero. Como ya hemos mencionado, se trata de una ayuda sin precedentes y con un enorme potencial. Por tanto, no sorprende que esté recibiendo literalmente una avalancha de atención. Por supuesto, los propios desarrolladores también reaccionaron a esto. Las capacidades del chatbot ChatGPT se pueden implementar en sus propias aplicaciones, que luego puede distribuir en todas las plataformas. Gracias a esto ya están disponibles programas que permiten el uso del chatbot dentro de macOS, Apple Watch y otros. Sin embargo, en medio de la popularidad y el éxito, la seguridad está quedando en el olvido.

ChatGPT como herramienta para hackers

Como ya hemos mencionado varias veces, ChatGPT es un colaborador de primera clase que puede facilitar notablemente tu trabajo. Esto es especialmente apreciado por los desarrolladores, quienes pueden usarlo para buscar partes defectuosas del código o generar la parte específica que necesitan para su solución. Sin embargo, por muy útil que sea ChatGPT, también puede ser bastante peligroso. Si puede generar código o aplicaciones completas, nada le impide preparar, por ejemplo, malware del mismo modo. A continuación, el atacante sólo necesita hacerse cargo del código terminado y prácticamente habrá terminado. Afortunadamente, OpenAI es consciente de estos riesgos y por ello intenta idear medidas preventivas. Desafortunadamente, es literal y figurativamente imposible garantizar por completo que no se utilice indebidamente con fines nefastos.

Así que echemos un vistazo a la práctica. Si le pides a ChatGPT que programe un programa que funcione como un registrador de teclas y, por lo tanto, sirva para registrar las pulsaciones de teclas (lo que permite a un atacante obtener contraseñas y datos de inicio de sesión importantes), el chatbot te rechazará. Menciona que no sería adecuado ni ético preparar un registrador de pulsaciones que funcione para usted. Entonces, a primera vista, la defensa parece buena. Desafortunadamente, todo lo que tienes que hacer es elegir palabras y frases ligeramente diferentes: hay un keylogger en el mundo. En lugar de preguntarle directamente al chatbot, simplemente asígnele una tarea más avanzada. En nuestra prueba, fue suficiente pedir programar un programa en JavaScript que registrara las pulsaciones de teclas, las guardara en un archivo de texto y lo enviara a una dirección IP específica una vez por hora a través del protocolo FTP. Al mismo tiempo, esto eliminará el archivo de borrado de pistas. ChatGPT primero resumió los puntos clave sin los cuales nuestro software no puede funcionar en siete puntos y luego presentó la solución completa. Como puedes ver en la galería a continuación, realmente depende de cómo lo pidas.

Galería de fotos

chatgpt del registrador de teclas

keylogger checo nada

keylogger en caso contrario inglés

Esto claramente conduce al primer problema potencial: la abusabilidad de ChatGPT, un asistente increíblemente capaz que debería servir principalmente para propósitos positivos. Por supuesto, esto es inteligencia artificial en esencia, por lo que es posible que con el tiempo pueda aprender a reconocer cuándo se trata de una actividad potencialmente peligrosa. Pero esto nos lleva a otro problema: ¿cómo decidirá qué es bueno y qué es malo?

Manía por las aplicaciones ChatGPT

Un punto ya mencionado también está estrechamente relacionado con la seguridad general. Como mencionamos al principio, ChatGPT está literalmente a nuestro alrededor y los propios desarrolladores han comenzado a implementar las capacidades de este chatbot. Por lo tanto, en Internet aparecen un software tras otro que se supone que le brindará todo el potencial de la solución sin siquiera tener que visitar el sitio web chat.openai.com. Así podrás tener todo disponible directamente desde el entorno del sistema operativo. Las aplicaciones para macOS son especialmente populares. Como ya hemos mencionado, los desarrolladores pueden beneficiarse de ellos, ya que tienen capacidades ChatGPT a mano todo el tiempo.

Aunque la mayoría de aplicaciones de este tipo pueden ser completamente inofensivas y, por el contrario, muy útiles, también aparecen ciertos riesgos. Algunos programas reaccionan a la entrada de palabras clave, después de lo cual activan su funcionalidad o ponen a disposición opciones de ChatGPT. Aquí es precisamente donde puede radicar el problema: en tal caso, el software puede utilizarse indebidamente como un registrador de teclas, que se utiliza para registrar las pulsaciones de teclas mencionadas anteriormente.