Los diez criterios para utilizar inteligencia artificial en las escuelas<\/mark><\/strong><\/h2>\n\n\n\nEl art\u00edculo 5 de la ley establece diez principios que deber\u00e1n orientar la incorporaci\u00f3n de sistemas de IA en las instituciones educativas de CABA. Estos lineamientos abarcan desde la protecci\u00f3n de la informaci\u00f3n personal hasta la evaluaci\u00f3n de los posibles efectos de estas tecnolog\u00edas.<\/p>\n\n\n\n
1. Privacidad: <\/strong>la informaci\u00f3n personal de los estudiantes y dem\u00e1s integrantes de la comunidad educativa debe estar protegida durante todo el ciclo de vida de los sistemas de inteligencia artificial. La ley considera la privacidad un derecho fundamental, relacionado con la dignidad, la autonom\u00eda y la capacidad de las personas para tomar decisiones. Por eso, su protecci\u00f3n debe mantenerse desde el desarrollo y la implementaci\u00f3n de estas herramientas hasta su utilizaci\u00f3n.<\/p>\n\n\n\n2. Transparencia:<\/strong> las autoridades educativas y los proveedores de inteligencia artificial deber\u00e1n ofrecer informaci\u00f3n clara y comprensible sobre el uso de estos sistemas en las escuelas. Esto incluye explicar para qu\u00e9 se utilizan, cu\u00e1les son sus condiciones de funcionamiento y qu\u00e9 criterios generales siguen. La obligaci\u00f3n estar\u00e1 sujeta a la informaci\u00f3n que efectivamente est\u00e9 disponible y pueda exigirse a los proveedores.<\/p>\n\n\n\n3. Mejora educativa:<\/strong> la incorporaci\u00f3n de inteligencia artificial deber\u00e1 contribuir a mejorar la calidad de la ense\u00f1anza y el aprendizaje. Adem\u00e1s, su aplicaci\u00f3n tendr\u00e1 que promover la equidad y la inclusi\u00f3n, con especial atenci\u00f3n a la protecci\u00f3n integral de los derechos de ni\u00f1as, ni\u00f1os y adolescentes. Es decir, la tecnolog\u00eda deber\u00e1 funcionar como una herramienta que aporte al proceso educativo y no como un recurso incorporado sin una finalidad pedag\u00f3gica concreta.<\/p>\n\n\n\n4. Pertinencia pedag\u00f3gica: <\/strong>el uso de la IA deber\u00e1 estar relacionado con los objetivos curriculares y las propuestas did\u00e1cticas correspondientes a cada nivel o modalidad educativa. Esto significa que las herramientas tecnol\u00f3gicas tendr\u00e1n que responder a las necesidades de cada etapa escolar y acompa\u00f1ar los contenidos que se ense\u00f1an, en lugar de utilizarse de manera aislada o sin una justificaci\u00f3n educativa.<\/p>\n\n\n\n5. Reflexividad:<\/strong> las instituciones deber\u00e1n promover la capacidad de analizar cr\u00edticamente el uso de la inteligencia artificial en la educaci\u00f3n. Esto implica que docentes y estudiantes puedan reconocer sus beneficios, identificar sus limitaciones y evaluar los riesgos que puede generar. La intenci\u00f3n es que la comunidad educativa no utilice estas herramientas de manera autom\u00e1tica, sino que pueda comprender sus resultados y cuestionarlos cuando sea necesario.<\/p>\n\n\n\n6. Protecci\u00f3n reforzada de datos:<\/strong> los sistemas de IA deber\u00e1n garantizar medidas especiales de seguridad para proteger la informaci\u00f3n personal que recopilen o procesen, sobre todo cuando se trate de datos sensibles o biom\u00e9tricos. La normativa establece que estos datos deber\u00e1n utilizarse \u00fanicamente para finalidades espec\u00edficas, en una cantidad proporcional a lo necesario y bajo condiciones de confidencialidad y seguridad. La protecci\u00f3n deber\u00e1 contemplar especialmente los derechos de ni\u00f1as, ni\u00f1os y adolescentes.<\/p>\n\n\n\n7. Proporcionalidad y gradualidad tecnol\u00f3gica:<\/strong> la incorporaci\u00f3n de dispositivos y herramientas digitales tendr\u00e1 que adecuarse a la edad, el grado de madurez y el desarrollo cognitivo de cada estudiante. Esto supone que los contenidos, las interfaces y las formas de interacci\u00f3n con la tecnolog\u00eda deber\u00e1n ajustarse a cada franja etaria. La incorporaci\u00f3n de estos recursos, adem\u00e1s, deber\u00e1 realizarse de manera progresiva y acorde con las necesidades educativas.<\/p>\n\n\n\n8. Centralidad del v\u00ednculo entre docentes y estudiantes: <\/strong>la inteligencia artificial no deber\u00e1 reemplazar la intervenci\u00f3n de los docentes en la construcci\u00f3n del conocimiento. La ley busca preservar el papel de los educadores en la orientaci\u00f3n, el acompa\u00f1amiento y la ense\u00f1anza, de modo que la tecnolog\u00eda funcione como un complemento del trabajo pedag\u00f3gico y no como un sustituto de la relaci\u00f3n entre docentes y alumnos.<\/p>\n\n\n\n9. Accesibilidad: <\/strong>el uso de herramientas de inteligencia artificial deber\u00e1 garantizar oportunidades de acceso equitativas para todos los estudiantes, sin que su situaci\u00f3n econ\u00f3mica represente un obst\u00e1culo. Para ello, los sistemas utilizados deber\u00e1n contar con versiones gratuitas y accesibles o, cuando esto no sea posible, las instituciones tendr\u00e1n que proporcionar los recursos necesarios para que todos puedan utilizarlos.<\/p>\n\n\n\n10. Evaluaci\u00f3n de riesgos: <\/strong>antes de implementar sistemas de inteligencia artificial y durante su utilizaci\u00f3n, deber\u00e1n evaluarse sus posibles consecuencias t\u00e9cnicas, \u00e9ticas, did\u00e1cticas, epistemol\u00f3gicas y cognitivas. Entre los riesgos que la ley se\u00f1ala se encuentran las respuestas falsas o inventadas que pueden producir estos sistemas \u2014conocidas como alucinaciones\u2014, la posible p\u00e9rdida de autonom\u00eda del pensamiento cr\u00edtico de la comunidad educativa y el impacto ambiental y energ\u00e9tico que genera la infraestructura tecnol\u00f3gica.<\/p>\n\n\n\n