Círculo de Cartago

La tecnología como sistema (VI)

La aplicación del marco general de la ética como articulador de la tecnología en la Cuarta Revolución Industrial

*Celso Vargas Elizondo

Tal y como hemos indicado en las perspectivas anteriores, el desarrollo humano sostenible se adopta como marco ético general.  Esta adopción está a la base de los acuerdos de organizaciones internacionales, estados, organizaciones sociales y ciudadanos.  Este marco ético se divide en dos grandes áreas: el desarrollo de capacidades humanas y la seguridad humana. Como indicamos en la perspectiva anterior, la seguridad humana está conformada por siete dimensiones: Seguridad económica, seguridad alimentaria, seguridad sanitaria, seguridad ambiental, seguridad personal, seguridad comunitaria y seguridad política. Ambos lados del desarrollo humano sostenible son relevantes en el desarrollo tecnológico.  Pero nuestro énfasis ha estado en el tema de la seguridad humana.  Este enfoque ético de la seguridad se convierte en transversal en todos los incontables desarrollos tecnológicos relacionados, en este caso, con la cuarta revolución industrial.  Por ello lo más apropiado sea considerar ejemplos específicos de clases de tecnología. Nos limitaremos, por razones de espacio, en dos de estas aplicaciones, esperando que ilustren la forma en la que se puede utilizar el marco ético general establecido en la perspectiva anterior.

Comencemos por uno de esos casos concretos: la tecnología de drones para usos civiles.  En este momento y en el futuro muy cercano hay y habrá un importante número de aplicaciones de esta tecnología, incluyendo las siguientes: distintos usos para personas aficionadas a los drones, fotografía aérea, búsqueda y rescate, agricultura de precisión, la investigación con propósitos judiciales y policiales, envíos a domicilio y a otros destinos, monitoreo de zonas de interés comercial como las tuberías que conducen el combustible, mapeo en tres dimensiones, vigilancia, como medio de acceso a internet inalámbrico, y para investigación científicas en áreas como el clima, incluyendo la investigación de huracanes, tornados, sequías y otros fenómenos de interés científico y ambiental. Su uso en el futuro cercano se verá fuertemente incrementado.

En este caso, hay una serie de riesgos  asociados con el uso de los drones. Entre ellos, información  obtenida sin el consentimiento de las personas, la afectación a la propiedad de terceros, accidentes asociados con drones que pueden afectar a personas y animales; esto último debido principalmente a errores en la manipulación de estos. Bandas y delincuentes pueden utilizarlos para hacer más selectiva y efectiva la actividad delictiva,  pero también pueden ser utilizados por otros individuos para la obtención de secretos industriales, para el espionaje y para obtener otros tipos de información valiosa de las personas.  Finalmente, el uso intensivo de estos dispositivos puede afectar aeronaves que vuelan a poca altura o pueden interferir en el aterrizaje de aeronaves en los aeropuertos.  

Cuando analizamos este tema desde el punto de vista de la seguridad humana, observamos que varias dimensiones de la seguridad están involucradas.  La seguridad personal es la más importante e incluye los siguientes “factores de seguridad”: invasión a la privacidad, abuso de poder sobre las personas, extorsiones, afectación a bienes personales y daños físicos a las personas.  Pero también está relacionada con la seguridad comunitaria en aspectos como discriminación por preferencias o consideraciones étnicas y culturales, así como otras formas de inequidad. Finalmente, involucra también la seguridad política en el tanto el uso inadecuado de los drones cerca de aeropuertos e instituciones públicas puede comprometer la seguridad aeroportuaria y de las instituciones.  Es interesante observar que muchos de los riesgos de seguridad indicados pueden ser reducidos de manera importante mediante normativa legal apropiada. Los países han estado avanzando en este de tipo de regulación por distintos medios como los reglamentos o leyes. 

El segundo caso es mucho más general y se relaciona con el uso de inteligencia artificial (IA) en el contexto de la cuarta revolución industrial.  IA es un elemento transversal de las nuevas tecnologías y de su carácter disruptivo. Está a la base de Internet de las Cosas, de la conducción autónoma, de los desarrollos en robótica, del nuevo paradigma en medicina y en los nuevos modelos de inteligencia de mercados, especialmente en las nuevas formas de hacer comercio electrónico, solo para mencionar algunas de sus aplicaciones.  Desde luego las aplicaciones militares están a la orden del día, sin embargo, nuestro énfasis es en los usos civiles de estos desarrollos.  La tecnología basada en IA tiene un gran beneficio potencial, por ejemplo, para hacer más precisa la cirugía mediante una mejor visualización de los órganos y tejidos (mediante realidad aumentada), así como la utilización de robots en distintos momentos del proceso quirúrgico.  Pero también  puede ser utilizada para producir daño, no solo en la medicina sino también en todas sus aplicaciones. 

Tal y como indica la Unión Europea (ETHICS GUIDELINES FOR TRUSTWORTHY AI, 2019), se debe “poner especial atención a las situaciones que involucran a grupos vulnerables tales como niños, personas con discapacidad y otros que históricamente han estado en desventaja o que están en riesgo de exclusión, y a las situaciones caracterizadas por la asimetría de poder o de información, tales como la que se da entre empleadores y trabajadores o entre empresarios y consumidores”. Aun cuando no resulta fácil anticipar los posibles riesgos, es importante que se esté atento y evaluando de tiempo en tiempo los avances a fin de tomar las medidas que sean más adecuadas para evitar estos daños posibles.  La forma de abordaje  de esta propuesta de la Unión Europea es términos de principios u orientaciones generales.  Considera no solo los riesgos, sino también aquellos aspectos que son potenciadores de las capacidades humanas.  De acuerdo con este documento, “el desarrollo, implantación y uso de los sistemas de IA (debe hacerse) de manera tal que adhiera los principios éticos de: respeto por autonomía humana, la prevención del daño, la imparcialidad y comprensibilidad (“explicability”). (Debe) reconocer y abordar las tensiones potenciales entre estos principios”. 

Como se puede concluir de lo dicho hasta el momento, la aplicación de la IA a diferentes tecnologías en los ámbitos de los usos civiles, hay una serie de riesgos asociados con ellos y que vistos desde la seguridad humana, se concentran en las siguientes dimensiones: seguridad económica en el tanto que su utilización en la robótica industrial, en el campo financiero y comercial puede producir desempleo y bajas remuneraciones de manera alarmante a nivel global. Pero también en el ámbito de la seguridad personal. Tal es el caso de los robots de compañía que pueden ser utilizados para extorsionar y robar a personas adultas mayores y a personas con otro tipo de limitaciones por parte de parientes y otras personas cercanas. Será un riesgos el posible acceso a cuentas bancarias o las cuentas bancarias digitales o al uso de tarjetas de créditos de estas personas con el fin de robarles.  Pero también, la aplicación de la IA en internet de las cosas puede producir una clara invasión a la privacidad, pues se estaría en capacidad de identificar mejor las preferencias individuales, incluyendo las políticas y religiosas con lo cual se podría atender contra el derecho humano a la intimidad.  No solo esto, sino que puede ser utilizado para direccionar actividades comerciales con una mayor especificidad, y creando una potente herramienta para posibilitar el uso de poder contra las personas. También uno de los factores de riesgo muy relevante, indicado anteriormente, es el posible incremento de inequidad y limitación en el acceso a los beneficios derivados del desarrollo social y de estas tecnologías. En el ámbito de la seguridad comunitaria y política, los llamados sectores socialmente vulnerables (niños(as), mujeres, personas adultas mayores, migrantes, personas aborígenes, personas con discapacidad, diversidad sexual, personas con VIH/SIDA y personas adolescentes, para mencionar los principales) son los grupos que podrían ser blancos de actividades delictivas y de distintas y nuevas formas de discriminación. 

El enfoque de la seguridad humana, y su naturaleza multidimensional, es un buen instrumento ético que se puede utilizar con mucho éxito para anticipar y prevenir los posibles riesgos asociados con la cuarta revolución industrial.  La ética, introducida a nivel de diseño, constituye una valiosa herramienta para articular de manera sistémica esta nueva demanda del desarrollo tecnológico.  Debe ser utilizado en el mismo nivel y con el mismo rigor que los estándares y otros procedimientos que se están desarrollando para darle consistencia e integración a los muy distintos y casi ilimitados campos de la innovación tecnológica de esta revolución que están viviendo.

Print Friendly, PDF & Email

Los comentarios están cerrados.