Este documento resume las implicaciones del uso de la inteligencia artificial en la investigación científica, discutiendo sus capacidades y limitaciones, así como las preocupaciones éticas. También examina las políticas editoriales sobre el uso de IA y sugiere formas potenciales de aplicarla en la producción y divulgación científica de manera responsable.
Implicaciones de la inteligencia artificial en las actividades de investigación
1. Implicaciones de la inteligencia artificial
en las actividades de investigación
Imágenes adicionales de Pexels.com
Dr. Juan D. Machin Mastromatteo
Ciudad de México, 20 de octubre de 2023
2. Presentación del ponente
Dr. Juan D. Machin Mastromatteo
Profesor en la Universidad Autónoma de Chihuahua (UACH) y miembro del
Sistema Nacional de Investigadores (Nivel II). Doctor en Ciencias de la
Información y Comunicación (Tallinn University), Maestro en Bibliotecas
Digitales y Aprendizaje (Oslo University College; Tallinn University; y Parma
University) y Licenciado en Bibliotecología (Universidad Central de
Venezuela). Especialista en alfabetización informacional, investigación
acción, bibliometría, acceso abierto y bibliotecas digitales. Tiene más de 120
publicaciones científicas. Ha facilitado más de 40 cursos y ha participado en
más de 100 eventos internacionales como ponente, panelista, organizador o
moderador. Es Editor Asociado de las revistas Information Development
(SAGE) y Revista Estudios de la Información (UACH). Miembro de los comités
editoriales de The Journal of Academic Librarianship (Elsevier) y de IE
Revista de Investigación Educativa (Red de Investigadores Educativos de
Chihuahua). En Information Development publicó, de 2015 a 2020, la
columna Desarrollando América Latina. En 2019 creó el Proyecto Juantífico.
A partir de 2022 es coanfitrión de InfoTecarios podcast. Desde 2023 publica
la sección Escuela de editores en la Revista Estudios de la Información.
Redes: @juantifico | www.youtube.com/juantifico |
www.facebook.com/machinmastromatteo | www.instagram.com/juantifico |
http://judamasmas.com www.patreon.com/juantifico | ORCID: 0000-0003-4884-0474
4. Preprint con Chat GPT-3 como coautor
https://www.medrxiv.org/content/10.1101/2022.12.19.22283643v2
Kung, T., Cheatham, M., Medenilla, A., Sillos, C., De Leon, L., Elepaño, C., Madriaga, M., Aggabao, R., Diaz-
Candido, G., Maningo, J., y Tseng, V. (2023). Performance of ChatGPT on USMLE: Potential for AI-
assisted medical education using large language models. PLOS Digital Health, 2(2), e0000198.
https://doi.org/10.1371/journal.pdig.0000198
6. ¿Puede la inteligencia artificial
ser un autor?
International Committee of Medical Journal Editors. (2023). Recommendations for the conduct, reporting, editing, and publication of scholarly work in medical journals.
https://www.icmje.org/icmje-recommendations.pdf
¡Mira mi video relacionado!
7. Tsai, C.., Yeh, Y., Tsai, L., y Chou, E. (2023). The efficacy of transvaginal ultrasound-guided BoNT-A external sphincter injection in
female patients with underactive bladder. Toxins, 15(3), 199. http://doi.org/10.3390/toxins15030199
¡“La trampa sale”!
8. Tang, G., y Eaton, S. (2023). A rapid investigation of artificial intelligence generated content footprints in
scholarly publications [Preprint]. Research Square. https://doi.org/10.21203/rs.3.rs-3253789/v1
¡“La trampa sale”!
9. Si la información es imprecisa,
¿es confiable?
Información generada por Chat GPT-3, el 8 de mayo de 2023.
17. Para investigación, NO usar el
ChatGPT genérico
Desarrollos de IA que sirven a distintas etapas:
Redacción: PaperPal, Writefull, Grammarly
Envío de artículos: Research Exchange (ReX, de
Wiley, extrae datos del manuscrito)
Herramientas para la evaluación de manuscritos:
Raxter.io, Penelope, RipetaReview, SciScore,
Proofigand ImageTwin
Análisis y búsqueda de citas: Scite.ai, Consensus
Generación de resúmenes: Scholarcy
Chatbots generales especializados “asistentes de
lectura de archivos” (GPT 3 y 4): Cody, ChatPDF,
ChatDOC.
18. Políticas editoriales sobre uso de IA
Políticas citadas:
ArXiv:
https://blog.arxiv.org/2023/01/31/arxiv-announces-new-policy-
on-chatgpt-and-similar-tools
WAME:
https://wame.org/page3.php?id=106
Sage:
https://us.sagepub.com/en-us/nam/chatgpt-and-generative-ai
SpringerNature:
https://www.nature.com/nature-portfolio/editorial-policies/ai
Elsevier:
https://beta.elsevier.com/about/policies-and-
standards/publishing-ethics ;
https://www.elsevier.com/journals/journal-of-
biotechnology/0168-1656/guide-for-authors ;
https://beta.elsevier.com/about/policies-and-standards/the-
use-of-generative-ai-and-ai-assisted-technologies-in-writing-
for-elsevier
Taylor & Francis:
https://authorservices.taylorandfrancis.com/editorial-
policies/defining-authorship-research-paper
Wiley:
https://authorservices.wiley.com/ethics-guidelines/index.html
19. 7 Políticas editoriales sobre el uso de IA
Reportar el uso de IA generativas, señalar claramente el contenido
generado, propósito y cuál se usó (arXiv, WAME, Sage, Elsevier, SpringerNature, T&F, Wiley)
Se reafirma la responsabilidad de los autores(WAME, arXiv, SpringerNature, T&F, Wiley)
y que las herramientas NO son autores (WAME, arXiv, Sage, Elsevier, SpringerNature, T&F, Wiley)
ya que no pueden asumir responsabilidad o dar consentimiento.
Pueden usarse únicamente para mejorar el lenguaje y redacción, no
para interpretar datos o establecer conclusiones científicas. (Elsevier)
Verificar la exactitud, validez y pertinencia del texto y citas,
corrigiendo errores o inconsistencias (WAME, Sage, Elsevier, T&F, Wiley) además de
resultados incorrectos, incompletos o sesgados. (Elsevier)
20. 7 Políticas editoriales sobre el uso de IA
Incluir la lista de fuentes usadas para generar contenidos (Sage)
Conciencia del plagio potencial en el contenido generado (Sage)
Declarar limitaciones de las herramientas de IA, sesgos, errores y
vacíos de conocimiento. (Sage)
No puede usarse IA para alterar imágenes. Si se usa para generar o
interpretar imágenes, se debe describir de tal manera que el proceso
pueda reproducirse. (Elsevier)
No se permite a los editores subir manuscritos a una IA, por
confidencialidad y porque su evaluación puede ser incorrecta,
incompleta o sesgada. Solo debe ser realizada por humanos. (Elsevier)
Los editores necesitan herramientas para la detección de IA, sin
importar su capacidad de pago y formación sobre su uso. (WAME)
21. ¿Ética?
La postura de COPE
“El uso de herramientas de IA no es inherentemente poco ético y
puede ser útil, por ejemplo, para autores que no escriben en inglés
como su primera lengua, que tienen deficiencias de aprendizaje
(por ejemplo, disgrafia) u otras dificultades al escribir. Al respecto,
la IA puede ser una útil tecnología auxiliar o adaptable. El factor
clave es la responsabilidad y claridad sobre su uso. La necesidad de
su detección surge cuando su uso no es declarado”.
COPE. (2023). Artificial intelligence (AI) and fake papers. https://publicationethics.org/resources/forum-discussions/artificial-intelligence-fake-paper
22. ¿Para qué podríamos usar la IA?
Trabajar con los documentos que yo seleccione
Lluvias de ideas y sugerencias de puntos de partida temáticos
Encontrar fuentes ya no a partir de palabras clave, sino de preguntas
Ayudar en la preparación de resúmenes y títulos
Pedirle que me sugiera revistas donde publicar
Apoyo para generar contenidos de divulgación científica
Procesamiento y trabajo con información masiva
Detectar textos generados por IA
Mejorar redacción y traducciones
26. Trabajar con los
documentos
que yo
seleccione
https://getcody.ai
https://www.chatpdf.com
https://chatdoc.com
Cortesía Mg. Josmel Pacheco-Mendoza, @josmel1
36. Resumen de una
ponencia
https://chat.openai.com
Mi resumen final: La ponencia comenta el papel de la inteligencia artificial en la investigación científica, discutiendo sus
capacidades, como la generación de textos, pero también se plantean preocupaciones sobre su precisión y confiabilidad.
Además, se examinan las reacciones que ha ocasionado en las políticas editoriales, algunas preocupaciones relacionadas
con la ética e integridad de la investigación, así como sus posibles usos en la producción científica.
…
44. En conclusión, sobre el uso de IA
para la investigación
Sus respuestas pueden tener errores, imprecisiones o no ser exhaustivas
No repara en cuestiones éticas o de integridad
No interpreta ni categoriza ideas como haríamos, vital para construir y juzgar
argumentos (tampoco puede adivinar lo que queremos).
No se ajusta a estándares editoriales, es casi imposible que cite bien, cuando
la correcta atribución de las ideas es vital en el discurso científico.
No conocemos los alcances y limitaciones de la base de conocimiento de GPT
Es un riesgo de plagio, originalidad e integridad
Si se usa de manera exclusiva, ¿cómo desarrollar el pensamiento crítico, la
creatividad y habilidades de redacción?
Es temprano para definir su papel, pero vale la pena experimentar
46. ¡Gracias por su atención!
Dr. Juan D. Machin-Mastromatteo #Juantífico
Si te gustó esta ponencia, visita mi canal y suscríbete
youtube.com/juantifico
Videos sobre información, investigación, publicación y
divulgación científica, con un toque de tecnología y cultura pop.
Es Juan, es científico, ¡es Juantífico!
También estoy en
@juantifico | facebook.com/machinmastromatteo
es.slideshare.net/judamasmas | tiktok.com/@juantifico
instagram.com/juantifico | juantifico.com
Apóyame en
Patreon | PayPal