Inspiring Futures – DPL News

Inteligencia Artificial requiere un nuevo contrato social para la era digital: Gianluca Misuraca

Mirella Cordeiro — Wed, 10 Aug 2022 18:47:34 +0000

Cuando se piensa en Inteligencia Artificial (IA) en el futuro, es común imaginar robots que dominan el mundo o que aprenden a tener sentimientos, como en la película A.I. – Inteligencia Artificial. Pero, ¿adónde vamos en la vida real?

En entrevista con DPL News, Gianluca Misuraca*, fundador y vicepresidente de Inspiring Futures, responsable de diplomacia tecnológica y gobernanza digital, evalúa que la tecnología se puede utilizar para mejorar la calidad de vida de la población si se aprovechan los sistemas de “manera inteligente”. También sopesó los riesgos de la IA e hizo recomendaciones para que los países aprovechen las oportunidades de la tecnología.

Visión del futuro

“El sector público tiene que, por definición, servir a los ciudadanos y en particular los que están en condiciones de desventajas. El uso de esta tecnología debería aprovecharse, por ejemplo, para servicios sociales o para ayudar al empleo de los ciudadanos”.

Misuraca dice que los algoritmos se pueden usar para brindar un servicio proactivo y personalizado para saber qué trabajo sería mejor para cada persona y mejorar su empleabilidad, así como prevenir el fraude en los beneficios sociales.

Lea también: El uso de IA en Brasil reduce hasta un 50% el tiempo de los procesos judiciales

Las ventajas en la industria se observan inicialmente en algunos sectores. En México, Audi analiza e identifica fallas en los autos a partir de la información proporcionada por los sistemas de producción, lo que ha permitido reducir las fallas en al menos un 15 por ciento.

El experto también estima que “una posible aplicación de la IA será realizar trabajos que el hombre hace porque está obligado, pero que no tiene gusto en hacerlo, o trabajos de rutina, muy pesados y peligrosos. Entonces el hombre puede estar allí para supervisar y controlar en caso de problemas”, comentó.

“Por otro lado, hay personas desempleadas y por eso hay que buscar nuevas modalidades de distribución de los recursos. Esto necesita un nuevo contrato social de la era digital, un nuevo sistema fiscal, una nueva capacidad para organizar el trabajo”, así como un sistema de seguridad social avanzado que permita esa flexibilidad del mundo del trabajo y un cambio en la forma en que funciona la sociedad.

Riesgos y recomendaciones

Un factor muy conocido en relación con los algoritmos es el riesgo de discriminación a las mujeres y los negros, por ejemplo. “Aunque el algoritmo sea muy bueno, también puede generar discriminación si los datos no son de buena calidad”, menciona Misuraca.

Cita el caso del Reino Unido, que utilizó un algoritmo para evaluar a los estudiantes que no pudieron rendir exámenes debido a la pandemia de Covid-19 en 2020. El modelo favoreció a los estudiantes de escuelas privadas y áreas más ricas y perjudicó a los estudiantes de alto rendimiento de las escuelas públicas, incluso impidiendo que esos jóvenes ingresaran a ciertas universidades.

Relacionado: Conductores demandan a Uber por discriminación con sistema de reconocimiento facial

Misuraca explica que es necesario asegurar la buena calidad de los datos, asegurar que se coloquen principios éticos en la construcción del algoritmo –Ethics by Design– y que cuente con supervisión humana siempre que sea posible, para que las decisiones no sean completamente automatizadas.

También recomienda que los países establezcan reglas ciertas y claras para enfrentar las desigualdades entre las ciudades con alto desarrollo tecnológico y las regiones menos desarrolladas. Además de asegurar que los sistemas no favorezcan a grupos extremistas o sistemas autoritarios.

“[En estas reglas] tienes que usar los principios básicos y aprender de los errores cometidos en algunos países”, dice Misuraca. Por ello, los foros de discusiones son elementos fundamentales para el desarrollo de la IA.

En cuanto a la regulación, defiende la visión human-centric (centrado en el ser humano) de la IA. Esto no quiere decir que sólo deba estar enfocada al hombre, “sino que también debe ayudar al ser humano, ser una tecnología más inclusiva, responsable y útil para el desarrollo humano y de la sociedad”.

Al mismo tiempo, es importante que las normas no frenen la innovación y el desarrollo económico. “Esto de la regulación es muy complicado porque tratan de analizar cuál sería el impacto de una ley para algo que no sabemos cómo va a evolucionar. Esto es complicado, sino imposible”.

Puede ser cuestión de 20 ó 30 años antes de que tengamos sistemas efectivamente inteligentes, cree Misuraca. Y queda mucho camino por recorrer: “Necesitamos competencia, voluntad política, liderazgo, formación para entender y aprovechar la complejidad que hay en esto. También necesitamos decisiones innovadoras que cambien radicalmente las organizaciones y el sector público, que utilizan sistemas muy antiguos de decisión política y decisión pública”.

*Gianluca Misuraca es fundador y vicepresidente de Inspiring Futures con responsabilidad en diplomacia tecnológica y gobernanza digital, director del máster AI4GOV y líder de InTouchAI.eu, grupo de apoyo de la Comisión Europea.

Inteligência Artificial requer um novo contrato social para a era digital: Gianluca Misuraca

Mirella Cordeiro — Wed, 10 Aug 2022 18:00:36 +0000

Leer en español

Quando se pensa em Inteligência Artificial (IA) no futuro, é comum imaginar robôs que dominam o mundo ou que aprendem a ter sentimentos, como no filme A.I. – Inteligência Artificial. Mas aonde vamos chegar na vida real?

Em entrevista à DPL News, Gianluca Misuraca*, fundador e vice-presidente da Inspiring Futures, com responsabilidade pela diplomacia tecnológica e governança digital, avalia que a tecnologia poderá ser usada para melhorar a qualidade de vida da população se os sistemas forem usados ”de forma inteligente”. Ele também ponderou os riscos da IA e fez recomendações para os países aproveitarem as oportunidades da tecnologia.

Visão do Futuro

“O setor público tem que, por definição, servir aos cidadãos e em particular àqueles que estão em condições desfavorecidas. Deve-se aproveitar o uso dessa tecnologia, por exemplo, para serviços sociais ou para ajudar na empregabilidade dos cidadãos”.

Misuraca diz que os algoritmos podem ser usados para oferecer um serviço proativo e personalizado para dizer qual trabalho seria melhor para cada pessoa e melhorar a empregabilidade dela, além de evitar fraudes de benefícios sociais.

Leia também: Uso de IA no Brasil reduz até 50% o tempo de processos judiciais

As vantagens na indústria são observadas, de forma inicial, em alguns setores. No México, a Audi analisa e identifica falhas em carros por meio das informações fornecidas pelos sistemas de produção, o que reduziu as falhas em, pelo menos, 15%.

O especialista também estima que “uma possível aplicação da IA será realizar trabalhos que o homem faz porque é obrigado, mas que não tem prazer em fazê-lo, ou trabalhos rotineiros, muito pesados e perigosos. Então o homem pode estar ali apenas para fiscalizar e controlar em caso de problemas“, comentou.

“Por outro lado, há pessoas desempregadas e é por isso que temos que procurar novas formas de distribuir recursos. Isso requer um novo contrato social para a era digital, um novo sistema tributário, uma nova capacidade de organizar o trabalho”, além de um sistema previdenciário avançado, que permita essa flexibilidade no mundo do trabalho e uma mudança da forma como a sociedade funciona.

Riscos e recomendações

Um fator bastante conhecido em relação aos algoritmos é o risco de discriminação de mulheres e pessoas negras, por exemplo. “Embora o algoritmo seja muito bom, ele também pode criar discriminação se os dados não são de boa qualidade”, menciona Misuraca.

Ele cita o caso do Reino Unido, que usou um algoritmo para avaliar estudantes que não puderam realizar exames devido à pandemia de Covid-19 em 2020. O modelo favoreceu alunos de escolas particulares e de áreas mais ricas e prejudicou os alunos de alto desempenho de escolas públicas, inclusive impedindo esses jovens de entrar em determinadas universidades.

Relacionado: Conductores demandan a Uber por discriminación con sistema de reconocimiento facial

Misuraca explica que é necessário assegurar a boa qualidade dos dados, garantir que princípios éticos sejam colocados na construção do algoritmo – Ethics by Design – e que tenha supervisão humana quando for possível, para que as decisões não sejam completamente automatizadas.

Ele também recomenda aos países que coloquem regras certas e claras para lidar com as desigualdades entre cidades com desenvolvimento elevado de tecnologia e regiões menos desenvolvidas. Além de cuidar para que os sistemas não favoreçam grupos extremistas ou sistemas autoritários.

“[Nessas regras] tem que usar os princípios básicos e aprender com os erros cometidos em alguns países”, disse Misuraca. Por esse motivo, os fóruns de discussão são elementos fundamentais para o desenvolvimento da IA.

Em relação à regulamentação, ele defende a visão human-centric (centrada no ser humano) da IA. Isso não quer dizer que deve ser apenas focada no homem, “mas também deve ajudar o ser humano, ser uma tecnologia mais inclusiva, responsável e útil para o desenvolvimento humano e da sociedade”.

Ao mesmo tempo, é importante que as normas não freiem a inovação e o desenvolvimento econômico. “Essa coisa de regulamentação é muito complicada porque tentam fazer uma análise sobre qual seria o impacto de uma lei para algo que a gente não sabe como vai evoluir. Isso é complicado, senão impossível”.

Pode ser uma questão de 20 ou 30 anos para que tenhamos sistemas efetivamente inteligentes, acredita Misuraca. E boa parte do caminho ainda precisa ser trilhado: “Precisamos de competência, vontade política, liderança, formação para entender e aproveitar a complexidade que existe nisso. Precisamos também de decisões inovadoras, que mudem radicalmente as organizações e o setor público, que utilizam sistemas muito antigos de decisão política e decisão pública”.

*Gianluca Misuraca é fundador e vice-presidente da Inspiring Futures com responsabilidade pela diplomacia tecnológica e governança digital, diretor do mestrado AI4GOV e líder da InTouchAI.eu, grupo de apoio à Comissão Europeia.