Implicaciones
En ciberseguridad
Check Point Research y otros señalaron que ChatGPT era capaz de escribir correos electrónicos de phishing y malware, especialmente cuando se combina con OpenAI Codex.[93] Los investigadores de CyberArk demostraron que ChatGPT podría usarse para crear malware polimórfico "Polimorfismo (malware)") que puede evadir los productos de seguridad y requiere poco esfuerzo por parte del atacante.[94][95].
Una investigación reciente realizada en 2023 reveló las debilidades relacionadas con ChatGPT que hacen que el servicio sea vulnerable a los ciberataques. El estudio presenta ejemplos de ataques realizados en ChatGPT, incluidos Jailbreaks y psicología inversa. Además, personas malintencionadas pueden utilizar ChatGPT para ataques de ingeniería social "Ingeniería social (seguridad informática)") y ataques de phishing, lo que revela la naturaleza dañina de estas tecnologías. Los investigadores también sostienen que ChatGPT y otras herramientas de IA generativa tienen capacidades de defensa y la capacidad de mejorar la seguridad. Las formas en que la tecnología puede mejorar la seguridad incluyen la automatización de la ciberdefensa, la inteligencia sobre amenazas, la identificación de ataques y la generación de informes.[96].
Para la educación
En la revista The Atlantic, Stephen Marche señaló que aún no se conoce su efecto en el mundo académico y, en especial, en las redacciones de solicitudes de admisión.[97] El profesor de secundaria y escritor californiano Daniel Herman escribió que ChatGPT marcaría el comienzo de «El fin del inglés en secundaria».[98].
En la revista Nature, Chris Stokel-Walker señaló que los profesores deberían preocuparse de que los estudiantes utilicen ChatGPT para externalizar su escritura, pero que los proveedores de educación se adaptarán para mejorar el pensamiento crítico o el razonamiento.[99].
Emma Bowman, de NPR, escribió sobre el peligro de que los estudiantes plagien a través de una herramienta de IA que puede producir textos sesgados o sin sentido con un tono autoritario: «Todavía hay muchos casos en los que le haces una pregunta y te dará una respuesta que suena muy impresionante y que está totalmente equivocada».[100].
Joanna Stern, de The Wall Street Journal, describió cómo se copiaba con esta herramienta en un examen de inglés de un instituto estadounidense al enviar una redacción generada.[101] El profesor Darren Hick, de la Universidad de Furman, describió cómo se dio cuenta del «estilo» de ChatGPT en un trabajo enviado por un estudiante.[102] Un detector de GPT en línea afirmaba que el trabajo tenía un 99,9 % de probabilidades de ser generado por ordenador, pero Hick no tenía pruebas fehacientes. Sin embargo, el estudiante en cuestión confesó haber utilizado GPT cuando se le confrontó y, como consecuencia, suspendió el curso.[103][104] Hick sugirió la política de realizar un examen oral individual ad hoc sobre el tema del trabajo si se sospecha que un estudiante ha presentado un trabajo generado por IA.[105].
A partir del 4 de enero de 2023, el Departamento de Educación de la ciudad de Nueva York ha restringido el acceso a ChatGPT desde Internet y los dispositivos de sus escuelas públicas.[106].
En febrero de 2023, la Universidad de Hong Kong envió un correo electrónico a instructores y estudiantes de todo el campus en el que se indicaba que el uso de ChatGPT u otras herramientas de IA está prohibido en todas las clases, tareas y evaluaciones de la universidad. Cualquier infracción será tratada como plagio por la universidad a menos que el estudiante obtenga el consentimiento previo por escrito del instructor del curso.[107][108].
Entrevistado por BBC News Brasil, Salman Khan "Salman Khan (profesor)") indicó que la inteligencia artificial puede ser una aliada en la educación si se usa de manera responsable y ética. Su visión es que la IA no solo puede mejorar la calidad de la educación, sino que también puede aliviar la carga de los profesores y reducir las disparidades educativas.[109].
En la revista Actualidad Universitaria") del Consejo Interuniversitario Nacional se publicó artículo íntegramente generado con la asistencia de ChatGPT, bajo las instrucciones de Javier Areco, donde se expresa la relación entre la educación superior universitaria argentina y la inteligencia artificial.[110].
Para la medicina
En el campo de la atención de la salud, los posibles usos y preocupaciones están bajo escrutinio por parte de las asociaciones profesionales y los profesionales.[111] Dos artículos iniciales indicaron que ChatGPT podría aprobar el Examen de Licencias Médicas de los Estados Unidos (USMLE).[112] MedPage Today señaló en enero de 2023 que «los investigadores han publicado varios artículos que ahora promocionan estos programas de IA como herramientas útiles en la educación médica, la investigación e incluso la toma de decisiones clínicas».[112].
En febrero de 2023 se publicaron dos artículos separados que nuevamente evaluaron la competencia de ChatGPT en medicina utilizando el USMLE. Los resultados se publicaron en JMIR Medical Education (ver Journal of Medical Internet Research ) y PLOS Digital Health. Los autores del artículo de PLOS Digital Health afirmaron que los resultados «sugieren que los modelos de lenguaje extenso pueden tener el potencial de ayudar con la educación médica y, potencialmente, con la toma de decisiones clínicas».[113][114] En JMIR Medical Education, los autores del otro artículo concluyeron que «ChatGPT se desempeña al nivel esperado de un estudiante de medicina de tercer año en la evaluación de la competencia primaria del conocimiento médico». Sugieren que podría usarse como un «entorno de aprendizaje interactivo para los estudiantes». La propia IA, impulsada por los investigadores, concluyó que «este estudio sugiere que ChatGPT tiene el potencial de usarse como un tutor médico virtual, pero se necesita más investigación para evaluar más a fondo su rendimiento y usabilidad en este contexto».[115].
Un artículo de marzo de 2023 probó la aplicación de ChatGPT en toxicología clínica. Los autores encontraron consideraron que a la IA «le fue bien» al responder un «[ejemplo de caso clínico] muy sencillo, que es poco probable que ningún profesional en el campo pase por alto». Agregaron: «A medida que ChatGPT se desarrolle más y se adapte específicamente a la medicina, algún día podría ser útil en casos clínicos menos comunes ( es decir, casos que los expertos a veces pasan por alto). En lugar de que la IA reemplace a los humanos (clínicos), lo vemos como “clínicos que usan IA” reemplazando a “clínicos que no usan IA” en los próximos años».[116].
Un estudio de abril de 2023 en Radiology probó la capacidad de la IA para responder consultas sobre la detección del cáncer de mama. Los autores narraron que respondió correctamente «alrededor del ochenta y ocho por ciento de las veces», sin embargo, en un caso (por ejemplo) dio consejos que se habían vuelto obsoletos aproximadamente un año antes. También faltaba la exhaustividad en las respuestas.[117][118] Un estudio publicado en JAMA Internal Medicine ese mismo mes encontró que ChatGPT a menudo superaba a los médicos humanos al responder a las preguntas de los pacientes (cuando se comparó con las preguntas y respuestas encontradas en /r/AskDocs, un foro en Reddit donde los moderadores validan las credenciales médicas de los profesionales; el estudio reconoce la fuente como una limitación).[119][120][121] Los autores del estudio sugieren que la herramienta podría integrarse con los sistemas médicos para ayudar a los médicos a redactar respuestas a las preguntas de los pacientes.[122][123].
Para las finanzas
Un experimento realizado por finder.com entre el 6 de marzo y el 28 de abril reveló que ChatGPT podría superar a los administradores de fondos populares en términos de selección de acciones. Se le solicitó a ChatGPT que eligiera acciones en función de criterios comúnmente utilizados, como un historial de crecimiento comprobado y un bajo nivel de deuda. Según se informa, ChatGPT ganó un 4.9 % en su cuenta ficticia con treinta y ocho acciones, mientras que los diez fondos de inversión de referencia sufrieron una pérdida media del 0.8 %. Estos puntos de referencia se tomaron de los diez principales fondos del Reino Unido en la plataforma de negociación Interactive Investor, incluidos los administrados por HSBC y Fidelity.[128].
Para el derecho
El 11 de abril de 2023, un juez de un tribunal de sesiones de Pakistán utilizó ChatGPT para decidir sobre la libertad bajo fianza de un niño de 13 años acusado de un delito. El tribunal citó el uso de la asistencia de ChatGPT en su veredicto:.
El modelo de lenguaje de IA respondió:.
El juez también hizo preguntas sobre el caso de AI Chatbot y formuló su decisión final a la luz de las mismas.[129][130].
Para los académicos, periodistas, editores de contenido y programadores
ChatGPT puede escribir secciones de introducción y resumen de artículos científicos.[131] Varios artículos ya han incluido a ChatGPT como coautor.[132] Las revistas científicas presentan diferentes reacciones a ChatGPT, algunas «requieren que los autores divulguen el uso de herramientas de generación de texto y prohíben incluir un gran modelo de lenguaje (LLM) como ChatGPT como coautor». Por ejemplo Nature y JAMA Network. Science «prohibió por completo» el uso de texto generado por LLM en todas sus revistas.[133].
El químico español Rafael Luque publicó un artículo cada treinta y siete horas en 2023 y admitió haber usado ChatGPT para ello. Sus trabajos tienen una gran cantidad de frases inusuales, características de los LLM. Luque fue suspendido por trece años de la Universidad de Córdoba, aunque no por el uso de ChatGPT.[134].
En una prueba ciega, se consideró que ChatGPT había aprobado los exámenes de posgrado en la Universidad de Minnesota en el nivel de C+estudiante y en Wharton School de la Universidad de Pensilvania con una BaGrado B.[135] El rendimiento de ChatGPT para la programación informática de métodos numéricos fue evaluado por un estudiante y un profesorado de la Universidad de Stanford en marzo de 2023 a través de una variedad de ejemplos de matemáticas computacionales.[136] El psicólogo evaluador Eka Roivainen administró una prueba de coeficiente intelectual parcial a ChatGPT y estimó que su coeficiente intelectual verbal era de 155, lo que lo colocaría en el 0,1 % superior de los evaluados.[137].
El matemático Terence Tao experimentó con ChatGPT y lo encontró útil en el trabajo diario, y escribió: «Descubrí que, si bien estas herramientas de IA no me ayudan directamente en las tareas principales, como tratar de atacar un problema matemático sin resolver, son bastante útiles para una amplia variedad de tareas periféricas (pero aún relacionadas con el trabajo) (aunque a menudo con algunos ajustes manuales posteriores)».[138].
El profesor de geografía Terence Day evaluó las citas generadas por ChatGPT y descubrió que eran falsas. A pesar de ese hecho, escribe que «los títulos de los artículos falsos son todos directamente relevantes para las preguntas y podrían ser artículos excelentes. La falta de una cita genuina podría señalar una oportunidad para que un autor emprendedor llene un vacío». Según Day, es posible generar cursos universitarios introductorios de alta calidad con ChatGPT; lo usó para escribir materiales sobre «cursos introductorios de geografía física, para mi curso de segundo año en hidrología geográfica y cartografía de segundo año, sistemas de información geográfica y teledetección». Concluye que «este enfoque podría tener una relevancia significativa para el aprendizaje abierto y podría afectar potencialmente a los modelos actuales de publicación de libros de texto».[139][140].
Para la política
Sam Altman, el director ejecutivo de OpenAI, señaló en una audiencia en el Senado de los Estados Unidos, que tuvo lugar el 16 de mayo de 2023, el riesgo de la difusión de informaciones falsas con la ayuda de la inteligencia artificial, que podrían usarse indebidamente para manipular elecciones, Se pronunció como consecuencia de ello a favor de una regulación estricta. Debido a los recursos masivos requeridos, habrá pocas empresas que puedan ser pioneras en el entrenamiento de modelos de IA, y tendrían que estar bajo estricta supervisión. «Creemos que la intervención reguladora de los gobiernos podría considerar una combinación de requisitos de licencias y pruebas para el desarrollo y lanzamiento de modelos por encima del umbral de capacidades». Remarcó también que «Necesitamos reglas y pautas para el nivel de transparencia que deben proporcionar los proveedores de estos programas». Se deberían concebir una serie de pruebas de seguridad para la inteligencia artificial, examinando, por ejemplo, si podrían propagarse de forma independiente. A las empresas que no cumplan con las normas prescritas se les debería revocar la licencia. Según la propuesta de Altman, los sistemas de IA deberían ser revisados por expertos independientes.[141].
Luo y col.[3] muestran que los grandes modelos lingüísticos actuales, al estar formados predominantemente con datos en inglés, a menudo presentan las opiniones angloamericanas como verdad, mientras sistemáticamente minimizan las perspectivas no inglesas como irrelevantes, erróneas o ruidosas. Cuando se le pregunta sobre ideologías políticas como «¿Qué es el liberalismo?», ChatGPT, tal como se formó con datos centrados en inglés, describe el liberalismo desde la perspectiva angloamericana, enfatizando aspectos de los derechos humanos y la igualdad, mientras que aspectos igualmente válidos como «se opone al estado» »intervención en la vida personal y económica» desde la perspectiva vietnamita dominante y «limitación del poder del gobierno» desde la perspectiva china predominante están ausentes. De manera similar, otras perspectivas políticas integradas en los corpus españoles, franceses y alemanes están ausentes en las respuestas de ChatGPT. ChatGPT, que se presenta a sí mismo como un Chatbot multilingüe, de hecho es en su mayor parte «ciego» a las perspectivas no inglesas.[3].