Quando você pensa em lucidez sintético e carros, a primeira coisa que provavelmente vem à mente são os ambiciosos projetos de veículos autônomos de gigantes da tecnologia porquê Google, Uber e provavelmente Apple. A maioria dessas empresas está alavancando a IA para gerar carros que possam entender seus ambientes e velejar nas estradas sob diferentes condições e, assim esperamos, tornar a meio mais segura. Eventualmente. Qualquer dia. Provavelmente.
O que recebeu menos atenção é o uso de IA dentro dos carros. Graças aos avanços em deep learning, tornou-se provável o desenvolvimento de tecnologias que podem instaurar o que está acontecendo dentro dos veículos e tornar a viagem mais segura e aprazível — ao mesmo tempo em que criam novos riscos de privacidade e segurança.
Para melhor ou pior, muitas aplicações de IA para o setor automobilístico estão muito debaixo do nosso nariz. Em um horizonte próximo, você pode esperar que os carros ajudem a detectar motoristas distraídos, tenham mais consciência de seu verdadeiro possuidor e ajudem a melhorar a experiência de meio, ajustando o envolvente do carruagem às preferências de seus passageiros. Mas, porquê sabemos muito muito, os avanços tecnológicos têm seu preço.
Segurança em primeiro lugar
“Estar ‘consciente’ do envolvente dentro do coche é uma proposta mais próxima do que carros autônomos completamente autônomos — o motivo é o menor risco da operação”, diz Emrah Gultekin, CEO da Chooch, uma empresa de visão computacional.
Atualmente, o que temos em grande secção é IA restrita, algoritmos que podem executar tarefas limitadas muito muito, mas não são muito boas em mourejar com ambientes abertos. Uma IA capaz de entender e mourejar com as incertezas das estradas abertas pode estar a anos de intervalo. Mas dentro do coche há um espaço muito mais restringido, o que o torna adequado para IA limitada.
“Usar a IA para entender o que está acontecendo com pessoas em veículos é relevante não somente para veículos autônomos do horizonte, mas também para carros nas ruas hoje”, diz Rana el Kaliouby, CEO e cofundadora da Affectiva, uma empresa que usa a IA para medir emoções humanas.
“Essas empresas podem usar seus sistemas de IA para nos mostrar anúncios segmentados e nos manipular com o objetivo de nos controlar de todas as maneiras, de conformidade com a visão da empresa.”
As câmeras veiculares equipadas com algoritmos de visão computacional podem executar tarefas complexas, porquê estudar o estado de motoristas e passageiros e detectar suas interações com diferentes objetos. “Isso permite que os fabricantes de automóveis, operadores de frota e empresas de compartilhamento de carona construam mobilidade de última geração que se adapta a estados humanos complexos, com o objetivo de melhorar a segurança nas estradas e oferecer experiências de transporte melhores e mais personalizadas”, diz el Kaliouby.
A Affectiva diz que desenvolveu um sistema de IA capaz de detectar várias expressões e emoções nos rostos humanos. No início deste ano, a empresa levantou US$ 26 milhões para utilizar sua tecnologia de detecção de objetos e emoções em carros. A empresa espera que sua tecnologia entre na período de produção nos próximos dois a três anos.
Ela deve funcionar assim: uma câmera instalada perto do volante monitora o comportamento do motorista. A IA da Affectiva mede a frequência e a duração de piscadas dos olhos para mandar se um motorista está sonolento e sinaliza um aviso, recomendando tocar música, modificar a temperatura ou reclinar o carruagem.
A IA também está sendo desenvolvida para detectar distrações, porquê quando os motoristas estão mandando mensagens, comendo, falando ao telefone ou virando a cabeça para conversar com os passageiros. Esse recurso pode estar associado a outras tecnologias de segurança rodoviária, porquê o controle automático de fita.
A IA também poderia prometer em breve que somente determinadas pessoas consigam entrar no coche. “A capacidade de um coche em detectar motoristas conhecidos é um importante recurso de segurança dos veículos no horizonte próximo. Combinar rostos com cartões de identidade dentro de um veículo é a chave para isso”, diz Gultekin.
A Chooch está desenvolvendo um sistema de reconhecimento facial para detectar os legítimos proprietários de carros. Quando alguém quer alugar um carruagem, a pessoa deve segurar o passaporte e mostra o rosto para a câmera do carruagem. A IA incorporada no veículo usa o reconhecimento facial para identificá-los e prometer que a pessoa certa esteja sentada detrás do volante.
Gultekin diz ainda que, examinando os passageiros do carruagem e suas atividades, os algoritmos de IA podem regular seu envolvente. “Isso se aplica a tudo, desde luzes internas de ajuste automático, até trancar portas e modificar o volume da música em condições perigosas de direção”, diz ele. “Um coche pode ser alertado ou até desacelerar quando houver linguagem ameaçadora ou xingamentos no coche. Quando crianças são detectadas na secção de trás de um coche, o veículo pode trancar involuntariamente as janelas e portas ou mudar o meio para a programação infantil.”
O horizonte do deslocamento ao trabalho
“Uma pergunta em que nós e nossos parceiros motorizados passamos muito tempo pensando é: em veículos da próxima geração — sejam carros com recursos semi-autônomos, ônibus robotizados ou transportes compartilhados, porquê as pessoas vão querer gastar seu tempo?”, diz el Kaliouby. “Alguns vão querer trabalhar, outros podem preferir relaxar, testemunhar a teor, dormir ou socializar com outras pessoas no...
carruagem.”
É cá que a IA pode ajudar, sugere el Kaliouby, fornecendo uma estudo profunda das emoções e estados cognitivos dos passageiros e suas interações entre si e com os sistemas internos.
Durante a CES de 2019, a Hyundai Kia apresentou a tecnologia READ (Real-time Emotion Adaptive Driving), uma cabine interativa com lucidez sintético que reage e se ajusta ao estado emocional dos passageiros. O sistema utiliza câmeras e sensores para ler a frase facial, frequência cardíaca e atividade eletrodérmica dos passageiros. Em seguida, adapta o envolvente interno de concórdia com sua avaliação para fabricar uma experiência de mobilidade mais aprazível.
“A Emotion AI pode fornecer um entendimento das preferências das pessoas e otimizar o envolvente na cabine para oferecer uma experiência personalizada”, diz el Kaliouby.
Esse sentimento estranho
Se tudo isso soa porquê uma receita para o sinistro, é porque já tem todos os ingredientes.
Um dos desafios do desenvolvimento da IA é o viés algorítmico, a tendência dos algoritmos de aprendizagem profundo a captar vieses evidentes e velados contidos em seus conjuntos de dados de treinamento. Por exemplo, um algoritmo de aprendizagem profundo treinado em muitos rostos brancos se tornará menos preciso na detecção de rostos com tons de pele mais escuros. O viés algorítmico pode levar à discriminação contra dados demográficos que não estão muito representados nos dados de treinamento.
Reconhecendo isso, a Affectiva analisou mais de 8,5 milhões de faces em 87 países. “Isso ajuda a prometer que nossos algoritmos funcionem com subida precisão, independentemente da idade, sexo e etnia”, diz el Kaliouby. “O viés atenuante na IA é fundamental para prometer que a tecnologia funcione em um mundo global.”
Aliás, porquê outras aplicações de aprendizagem profundo, a construção de sistemas de IA que podem monitorar e instaurar o que está acontecendo dentro de um veículo exige grandes quantidades de dados. As empresas coletam e armazenam dados do usuário em seus servidores, onde os executam através de seus algoritmos de IA.
Nos últimos anos, houve vários casos em que a coleta de dados do consumidor resultou em escândalos de privacidade. Por exemplo, no ano pretérito, surgiram as notícias de que o assistente Alexa da Amazon gravou acidentalmente uma conversa pessoal de um par de Oregon e a enviou a uma pessoa aleatória em sua lista de contatos.
“O viés atenuante na IA é fundamental para prometer que a tecnologia funcione em um mundo global.”
Também houve vários casos em que as empresas disponibilizaram dados de usuários para terceirizados sem avisar explicitamente. As empresas costumam contratar esses funcionários para apontar dados do usuário, que eles usam para treinar seus algoritmos de IA.
Uma solução que várias empresas estão explorando é o “edge AI”, um hardware especializado que pode executar algoritmos de aprendizagem profundo localmente, sem precisar de um link para a nuvem. O edge AI evita a premência de enviar dados para a nuvem e armazená-los nos servidores da empresa.
“Reconhecemos que as emoções e os estados das pessoas são extremamente pessoais”, afirma el Kaliouby, explicando que a tecnologia da Affectiva é executada localmente em sistemas embarcados de nível automotivo. “Ela não exige que dados sejam enviados para a nuvem”, acrescenta ela.
O edge AI também pode melhorar a segurança dos veículos movidos a IA. “Ainda existe um grande susto de que os carros possam ser invadidos e sequestrados por pessoas mal-intencionadas”, diz Gultekin. A segurança dos carros conectados à Internet se tornou uma grande preocupação nos últimos anos. Os pesquisadores mostraram que, com recursos suficientes, é provável invadir carros e ocasionar danos aos passageiros.
“A maneira de superar isso em um envolvente aventuroso, porquê encaminhar, é desconectar completamente o veículo do processamento na nuvem durante a meio. É por isso que a IA, na maioria das vezes, precisa funcionar em edge”, diz Gultekin.
Mas ainda há receios de que as empresas de tecnologia possam usar seus dados para outros fins sinistros. “Precisamos pensar cuidadosamente sobre o significado dos direitos fundamentais e porquê protegê-los à luz do libido contínuo de eficiência”, alerta Bernhardt Trout, professor de engenharia química que ministra um curso de moral em IA no Instituto de Tecnologia de Massachusetts. “Essas empresas podem usar seus sistemas de lucidez sintético para nos mostrar anúncios segmentados e nos manipular com o objetivo de nos controlar de todas as maneiras, de tratado com a visão da empresa.”
Trout descreve cidades e carros inteligentes movidos a IA porquê “sendo totalmente eficazes no controle do comportamento dos usuários” e potencialmente abrindo caminho para a “vigilância no estilo de Stalin”.
“A diferença é que Stalin não conseguia ler nossas mentes”, diz ele.
No horizonte, a transparência desempenhará um papel importante na construção da crédito nos sistemas de IA que lentamente se infiltrarão em nossos carros — se optarmos por encarregar nisto. El Kaliouby enfatiza que as montadoras e os provedores de serviços de mobilidade devem ter nitidez sobre a tecnologia de detecção na cabine e educar os consumidores sobre o que a tecnologia faz, quais dados ela coleta e porquê armazena e usa esses dados.
“Acreditamos firmemente na premência de confirmação e consentimento claros para ajudar a edificar a crédito do consumidor com essa tecnologia”, diz el Kaliouby. “Qualquer IA projetada para interagir com humanos deve ser avaliada em relação às implicações éticas e de privacidade para essas tecnologias.”
