Sobre o tema
O viés algorítmico em sistemas de inteligência artificial tornou-se um tema central na discussão sobre ética e tecnologia. Este texto do New York Times, adaptado para o vestibular do ITA, aborda a revolução trazida por um sistema de visão computacional desenvolvido na Universidade de Toronto, que permitiu que máquinas 'enxergassem' e reconhecessem objetos com eficiência. No entanto, ao ser aplicado ao reconhecimento facial, o sistema apresentou menor precisão para mulheres e pessoas de cor, levantando preocupações sobre discriminação racial e de gênero em tecnologias amplamente utilizadas por empresas e governos. A questão exige que o candidato localize no texto a informação sobre essa imprecisão, relacionando-a ao contexto do viés algorítmico.
Tópicos relacionados
- Viés algorítmico em IA
- Reconhecimento facial e discriminação
- Ética na inteligência artificial
- Visão computacional
- Impacto social da tecnologia
Enunciado
About seven years ago, three researchers at the University of Toronto built a system that could
analyze thousands of photos and teach itself to recognize everyday objects, like dogs, cars and flowers.
The system was so effective that Google bought the tiny start-up these researchers were only just
getting off the ground. And soon, their system sparked a technological revolution. Suddenly, machines
could "see" in a way that was not possible in the past.
This made it easier for a smartphone app to search your personal photos and find the images you were
looking for. It accelerated the progress of driverless cars and other robotics. And it improved the
accuracy of facial recognition services, for social networks like Facebook and for the country's law
enforcement agencies. But soon, researchers noticed that these facial recognition services were less
accurate when used with women and people of color. Activists raised concerns over how companies
were collecting the huge amounts of data needed to train these kinds of systems. Others worried these
systems would eventually lead to mass surveillance or autonomous weapons.
Fonte: Matz, Cade. Seeking Ground Rules for A. I. www.nytimes.com, 01/03/2019. Adaptado.
Acessado em Agosto/2019.)
De acordo com as informações do texto, selecione a alternativa que melhor complete a
afirmação: The new system proved to be less precise when
Alternativas
- A)
applied to driverless cars.
- B)
adjusted to users' face recognition in social networks.
- C)
identifying inanimate objects like cars and plants.
- D)
used to identify Africans and African descendants.
- E)
tested by American law enforcement agencies.
Avaliar: +1 XP. Favoritar: salva pra revisar. Comentar: +5 XP + 1 credito IA.
Comentarios (0)
Carregando comentarios...
Perguntas frequentes
O que é viés algorítmico?
Viés algorítmico refere-se a erros sistemáticos e injustos em sistemas de IA que resultam em discriminação contra grupos específicos, geralmente devido a dados de treinamento desbalanceados ou design inadequado.
Por que o reconhecimento facial é menos preciso para pessoas de cor?
A imprecisão ocorre porque muitos conjuntos de dados de treinamento são compostos majoritariamente por rostos de pessoas brancas, fazendo com que o algoritmo aprenda melhor a reconhecer esses rostos e tenha desempenho inferior em outros grupos.
Quais são as principais preocupações éticas sobre o uso de IA em vigilância?
As preocupações incluem violação de privacidade, potencial para vigilância em massa, uso em armas autônomas e reforço de preconceitos sociais, como racismo e sexismo, se os sistemas não forem desenvolvidos com cuidados éticos.
Questões relacionadas
- According to Edgar Allan Poe’s point of view, portrayed in text 1A2-II, behind the scenes of writing,...
- John Milton and Freedom of Speech on Campus By Daniel F. Sullivan A few years ago, at a seminar meant to help college pr...
- In text 1A2-II, Poe affirms that...
- Choose the option in which the fragment “No sooner, however, does the artist transgress the law of his medium than we re...