El diputado provincial Carlos del Frade presentó en la Cámara de Diputados de Santa Fe un proyecto de ley que fija criterios para el uso de dispositivos digitales personales y herramientas de inteligencia artificial (IA) en el sistema educativo. El legislador del Frente Amplio por la Soberanía habló de la iniciativa en Escenario Mercenario.
«Este proyecto de ley busca salir del atronador canto de sirenas y cuidar la cabeza de las alumnas y los alumnos del sistema educativo provincial«, señaló Del Frade.
Según plantea, los estudiantes solo podrán usar estos recursos cuando tengan una finalidad pedagógica, de accesibilidad, de salud o de emergencia.
El proyecto define como dispositivos digitales personales a los celulares, relojes inteligentes, tabletas, computadoras portátiles y otros equipos de uso individual que no provee la institución. La inteligencia artificial abarca los sistemas capaces de generar, clasificar, recomendar, predecir, asistir o automatizar contenidos, decisiones y respuestas a partir de datos, algoritmos o modelos entrenados.
También incluye a las tecnologías emergentes, como asistentes automatizados, plataformas adaptativas y sistemas generativos. Por uso pedagógico entiende el que responde a fines de enseñanza, aprendizaje, evaluación, accesibilidad, inclusión o acompañamiento de trayectorias, encuadrado por la institución y el personal docente.
En el nivel inicial, los niños no podrán usar dispositivos personales durante la jornada escolar. Solo habrá excepciones por accesibilidad, salud o emergencia, justificadas y autorizadas por el equipo directivo. La incorporación de tecnologías en este nivel deberá responder a criterios pedagógicos restrictivos, con alta mediación docente y baja exposición individual.
En el nivel primario, los dispositivos personales no podrán utilizarse durante la jornada escolar.
En el nivel secundario, solo podrán usarse en clase cuando el docente lo disponga con fines pedagógicos, dentro de su planificación o de proyectos institucionales.
Del Frade propone que la IA y las tecnologías emergentes fortalezcan la enseñanza, la comprensión, la producción, la retroalimentación, la accesibilidad y el acompañamiento de trayectorias. No podrán sustituir procesos pedagógicos centrales ni debilitar la formación intelectual, crítica, ética y autónoma de los estudiantes.
Su uso quedará prohibido cuando:
- Reemplace de forma generalizada e indiscriminada la producción intelectual del alumnado.
- Impida verificar los procesos reales de comprensión, elaboración y aprendizaje.
- Vulnere la privacidad, la intimidad o la protección de datos personales.
- Introduzca sesgos discriminatorios o decisiones automatizadas sin supervisión humana.
- Afecte la integridad académica, la validez de la evaluación o la autoría de los trabajos.
- Se utilice para hostigar, humillar, manipular o vulnerar derechos de integrantes de la comunidad educativa.
Cuando se autorice su uso en actividades escolares, la institución y los docentes deberán definir qué usos están permitidos, en qué instancias pueden emplearse, cuándo hay que declarar su utilización, qué aspectos deben ser de elaboración propia y qué criterios de evaluación se aplicarán.
En todos los niveles y modalidades quedará prohibido:
- Captar, grabar, fotografiar, filmar o difundir imágenes, audios o videos dentro del establecimiento sin autorización institucional y sin consentimiento.
- Usar dispositivos o tecnologías para hostigamiento, acoso, intimidación, discriminación o afectación de derechos.
- Emplear herramientas tecnológicas para simular autoría, falsear producciones o vulnerar la integridad de las evaluaciones.
- Utilizar tecnologías emergentes sin la mediación institucional exigida, cuando así lo disponga la reglamentación.
La ley no podrá aplicarse en perjuicio de estudiantes que requieran tecnologías digitales como apoyo de accesibilidad, comunicación, seguimiento de salud, monitoreo médico, traducción o adaptación, o cualquier otro recurso necesario para ejercer su derecho a la educación.
Para esos casos, la reglamentación «establecerá procedimientos ágiles, razonables y no estigmatizantes para estos supuestos«, indicó el diputado.
La autoridad de aplicación sería el Ministerio de Educación.
En los fundamentos de su proyecto, Del Frade recuerda el caso de la filósofa Carmody Grey, que rechazó una invitación de Anthropic para participar en una «colaboración de investigación con las tradiciones de sabiduría». El legislador considera que sus dichos son fundamentales para pensar la relación con la IA y sus efectos en niñas, niños y adolescentes.
En una entrevista, Grey sostuvo: «La versión favorable es que son gente lista. Se han dado cuenta de que la IA es existencial y que plantea preguntas del nivel más básico sobre qué es un ser humano, qué es una máquina, dónde está la frontera, qué es la conciencia«.
Para la filósofa, es fundamental tomar conciencia de que la IA «concentra el poder, difumina la responsabilidad, esquilma la naturaleza, expropia culturas y lenguas con el ánimo de lucro y probablemente nos haga más solos y tontos«, según recogió Del Frade en el texto de la iniciativa.
Sobre los antecedentes, el diputado recordó que la propuesta «tiene como antecedente lo recientemente sancionado en la Legislatura de Río Negro«.
Seguinos