Foro de Debate - Modulo 6

Uso seguro, responsable y evaluación

La responsabilidad humana en el uso de inteligencia artificial

En el caso de Tienda Hogar Cercano, Camila utilizó inteligencia artificial para analizar registros de reclamos y tiempos de entrega. Antes de hacerlo, eliminó datos personales innecesarios, utilizó información anonimizada y estableció restricciones para evitar que la herramienta inventara datos o realizara inferencias sobre los clientes. Cuando la IA atribuyó un retraso a un proveedor sin evidencia, Camila detectó el supuesto, verificó la información y mantuvo la revisión humana antes de utilizar el resultado.

Pregunta de debate 

¿Qué medidas considera indispensables para utilizar inteligencia artificial de manera segura y responsable dentro de una MIPYME?

En su participación deberá:

1. Identificar una situación real de su actividad laboral o empresarial en la que podría utilizar inteligencia artificial.
2. Mencionar qué tipo de información evitaría compartir con la herramienta y explicar por qué.
3. Indicar cómo verificaría que la respuesta generada por la IA sea correcta antes de utilizarla.
4. Explicar qué riesgo podría producirse si la herramienta inventa información, realiza una inferencia incorrecta o presenta un resultado sesgado.
5. Señalar qué decisión o revisión debería permanecer siempre bajo responsabilidad humana.

Indicaciones de participación

Publique una respuesta de entre 120 y 180 palabras. Comente la publicación de al menos un compañero y sugiera respetuosamente una medida adicional que podría aplicar para mejorar la seguridad, verificación o supervisión del uso de IA. No comparta datos personales, financieros, contraseñas, información confidencial de clientes ni datos sensibles del negocio.

Criterios de valoración

Se valorará la identificación adecuada de riesgos relacionados con el uso de inteligencia artificial, la aplicación de medidas de protección de datos, la importancia otorgada a la verificación de resultados, el reconocimiento de posibles errores o sesgos, la claridad de la explicación y la participación respetuosa en el debate.