Esta era de ritmo rápido en la que vivimos, trabajamos y prosperamos está cada vez más poblada por muchos tipos de tecnologías, incluidas las que se centran en el habla humana y la información de voz. Además de la facilidad de acceso y los repositorios económicos para almacenar estos datos, las herramientas robustas impulsadas por inteligencia artificial (IA) que detectan, destilan y traducen resultados específicos tienen el potencial de mejorar la condición humana. Sin embargo, al igual que con los sistemas tecnológicos más avanzados, también conlleva la posibilidad de mal uso.
Para que los beneficios de las tecnologías de datos compensen los desafíos, se debe involucrar una supervisión adecuada y limitaciones justas pero firmes. Este último involucra el ámbito de la ética, que en el nivel más fundamental es, "Un sistema de principios morales relacionados con la conducta humana, en lo que respecta a la bondad y maldad de los motivos y los fines de tales acciones".
Guías éticas
Las pautas éticas de muchas compañías y asociaciones de análisis de voz basadas en algoritmos o IA generalmente abordan al menos uno de los siguientes cinco focos:
- POLÍTICA
- Justicia
- Gobernanza
- Ventaja conjunta
- Transparencia,
La Declaración Universal de los Derechos Humanos describe el reclamo moral de privacidad bajo el Artículo 12:
POLÍTICA
Generalmente aceptado como un área de importancia, el concepto de privacidad subraya la mayoría de las interacciones cliente-proveedor. Los contratos vinculantes entre ambas partes generalmente presentan un lenguaje que establece que los datos proporcionados por el consumidor son propiedad de la empresa, que acepta usar los datos de manera responsable mientras protege la confidencialidad.
Justicia
La imparcialidad se traduce en el uso de la información recopilada de una manera que respeta la fuente humana de esos datos, maximizando la seguridad y minimizando el sesgo.
Gobernanza
La gobernanza se refiere a la responsabilidad de la gestión de datos y a la información veraz. También garantiza los más altos estándares de medición y la aplicación basada en principios de procedimientos informáticos en la resolución de problemas específicos.
Ventaja conjunta
La ventaja conjunta (también conocida como beneficio compartido) es un concepto que reconoce los derechos de quienes producen datos para contribuir a su control. Cabe destacar que no existe unanimidad en el campo en cuanto a cómo comprometer un modelo de trabajo de beneficio conjunto mutuamente beneficioso.
Transparencia,
Finalmente, la transparencia significa apertura y franqueza sobre la recopilación y las estrategias de utilidad de los datos. Sin embargo, teniendo en cuenta que la transparencia total puede poner en peligro la propiedad intelectual de una empresa, la mayoría de las empresas de tecnología de voz no han respaldado ni adoptado completamente este principio.
Garantizar salvaguardas adecuadas
Gracias a los recientes escándalos de violación de datos (en otros campos tecnológicos) que han aparecido en los titulares, las compañías de análisis de voz están tomando cada vez más salvaguardas. En general, las empresas están aumentando las medidas de seguridad para proteger los datos. Están cada vez más atentos a cómo se curan, procesan y organizan los conjuntos de datos, de modo que se mantenga la objetividad y los estereotipos de máquina no reemplacen a los humanos.
At Clearspeed, nos tomamos en serio la ética. Se implementan múltiples capas de procesos de precaución en un sistema de controles y equilibrios para garantizar la privacidad, la equidad y el gobierno adecuado. Además, para mantener y proteger la integridad de los datos y nuestra tecnología, las últimas y más impermeables metodologías de seguridad operativa (OPSEC) se actualizan continuamente.
Incluyendo el procesamiento del lenguaje natural, el reconocimiento de señales, el aprendizaje automático, el análisis de datos y la computación cognitiva, la IA tiene el potencial de cambiar el mundo en gran medida y de manera positiva. Las sociedades que lo usen serán más inteligentes, más saludables y más ricas.
Siempre que los algoritmos informáticos y la inteligencia artificial (1) sean utilizados de manera confiable por las empresas de tecnología y (2) aumenten (en lugar de reemplazar) el juicio humano, como se declaró en el Foro Económico Mundial en Suiza en 2019, “Podría haber un día cuando la IA se considerará un derecho humano tan importante como lo es la comida, el agua o la vivienda ". Eso nos suena bastante bien.
Referencias:
Arvanitakis, J. (2018, 28 de noviembre). ¿Qué están haciendo las empresas de tecnología sobre el uso ético de los datos? Obtenido de https://phys.org/news/2018-11-tech-companies-ethical.html
Beauchamp, TL y Childress, JF (2019). Principios de ética biomédica. Nueva York, NY: Oxford University Press.
Mano, DJ (2018). Aspectos de la ética de los datos en un mundo cambiante: ¿dónde estamos ahora? Big Data, 6 (3), 176-190. doi: 10.1089 / big.2018.0083
Liebert, MA (2018, 24 de septiembre). ¿Por qué la ética de los datos es tan difícil en un mundo cambiante? Recuperado de https://phys.org/news/2018-09-ethics-world.html
Moss, E. y Metcalf, J. (2019, 14 de noviembre). El dilema ético en el corazón de las grandes empresas tecnológicas. Obtenido de https://hbr.org/2019/11/the-ethical-dilemma-at-the-heart-of-big-tech-companies
Sejnowski, T. (Centro de Ética en Ciencia y Tecnología). (2020, 6 de mayo). La revolución del aprendizaje profundo [Video podcast]. https://www.uctv.tv/shows/The-Deep-Learning-Revolution-35462
Sommers, C. y Sommers, F. (2013). El vicio y la virtud en la vida cotidiana: lecturas de introducción a la ética. Belmont: Wadsworth.
Los desafíos éticos de la IA: una guía para líderes (PDF gratuito). (Dakota del Norte). Obtenido de https://www.techrepublic.com/resource-library/whitepapers/the-ethical-challenges-of-ai-a-leader-s-guide-free-pdf/