Quando ele tentou fazer logoff, o aplicativo acionou um popup de tela cheia. “Você está a apenas US $ 6 de ganhar US $ 40 em ganhos líquidos”, dizia o alerta. Campbell, um engenheiro de profissão, reconheceu o truque como uma versão do Loop Lúdico, um sistema que continuamente balança uma meta fora do alcance.

Nos anos seguintes, Campbell observou mais e mais estímulos psicológicos sutis no aplicativo. Após uma atualização, o aplicativo começou a aceitar automaticamente passeios compartilhados para ele durante uma viagem. Depois de outra atualização, os pilotos se viram competindo uns contra os outros por lugares limitados em níveis de driver de prestígio.

Cada pequeno detalhe do design explorava uma vulnerabilidade cognitiva no cérebro de Campbell, aumentando a pressão sobre ele para ficar em seu carro e dirigir. “Tudo me lembra os velhos jogos de pinball que eu costumava jogar quando eu era criança e o quanto eu gostava de ver o placar subir”, escreveu Campbell em seu blog.

É fácil pensar nesses recursos como componentes de um aplicativo, mas eles são realmente muito mais do que isso. Eles são o produto do trabalho de um designer, o produto de uma decisão consciente feita por um ser humano. E isso frustra as pessoas como o designer Mike Monteiro. Monteiro acredita que os designers se abstraíram de seu trabalho e, talvez mais importante, das conseqüências de suas ações.

“Os designers estão correndo rápido e livres, sem diretrizes éticas”, disse Monteiro em uma entrevista para o Slate. “E tudo bem quando estávamos criando cartazes e sites para filmes. Mas agora o design é relações interpessoais nas mídias sociais, assistência médica, dados financeiros que viajam por toda parte, a diferença entre jornalismo verificado e notícias falsas. E isso é perigoso.

Sem filosofias de design ou diretrizes éticas, passamos pela vaga suposição de que os designers provavelmente estão agindo corretamente. Recentemente, vimos o que pode acontecer quando os designers estão livres para trabalhar, sem restrições e sem orientação, para maximizar a receita. Como as redes sociais precisam maximizar o tempo que os usuários passam olhando para o aplicativo, agora todos utilizam elementos de design propositalmente viciantes tirados diretamente dos cassinos para produzir software literalmente viciante.

Como o especialista em comportamento de consumo Nir Eyal explica em seu livro Hooked: “As tecnologias que usamos se transformaram em compulsões, se não em vícios de pleno direito. É o impulso de verificar uma notificação de mensagem. É a atração para visitar o YouTube, o Facebook ou o Twitter por apenas alguns minutos, apenas para descobrir que você ainda está tocando e rolando uma hora depois. ”

Dado o imenso poder que os designers agora exercem, Monteiro e muitos de seus contemporâneos acreditam que os designers precisam de um arcabouço ético ou de um sistema filosófico para guiar seu comportamento.

Uma breve introdução ao design de produtos

Quando falamos de designers nesse contexto, estamos falando de designers de produtos, um cargo que mudou completamente nos últimos cinco ou dez anos. O design do produto passou da construção de produtos físicos para o projeto de estímulo mental, incluindo disciplinas adjacentes como design de experiência, arquitetura da informação, interação, interface do usuário e experiência do usuário.

Designers de produtos modernos projetam o sistema (como as coisas funcionam nos bastidores), os processos (como os usuários usam os sistemas) e a interface (como o produto se parece) dos produtos. Eles são arquitetos digitais, construindo as ferramentas e serviços que sustentam a economia moderna.

Há cinquenta anos, o efeito do design pobre era mínimo. Um cartaz de concerto confuso pode ter reduzido a venda de ingressos e manuais de treinamento de má qualidade podem ter afetado o desempenho do atendimento ao cliente – mas o público afetado era tipicamente pequeno e as implicações reais eram bem pequenas.

Em comparação, os designers modernos podem mexer com o próprio tecido da sociedade. Uma única mudança de tecla no algoritmo do Facebook pode influenciar as notícias que dezenas de milhões de pessoas veem.

Design antiético ou apenas ruim?

Um projeto ruim pode significar uma de duas coisas: design ruim ou design antiético. Produtos ruins são simples. São produtos que foram projetados sem o devido cuidado de seus usuários e operam de maneira disruptiva.

Em um post sobre User Testing, um diretor de design da IDEO relembra um protótipo de relatório médico apresentado por seu cliente. Ele foi projetado para uso por enfermeiros durante cirurgias e seria realizado com duas mãos como um comprimido. Mas não funcionou. A equipe da IDEO descobriu que, antes de quase todas as cirurgias, a enfermeira segurava a mão do paciente para acalmar seus nervos. Com uma mão fora de ação, o tablet de duas mãos foi inútil.

Design ruim como esse é dolorosamente onipresente – aplicativos de e-mail enviam notificações em voz alta no meio da noite; os sinais de trânsito estão repletos de informações que são ilegíveis; e formulários longos e demorados redefinidos com o mais simples dos erros. Mas o design ruim não é particularmente interessante, já que raramente é resultado de escolhas conscientes de design. Em vez disso, geralmente é causado por descuido ou ignorância por parte do designer.

A segunda categoria, design antiético, é muito mais complicada. Com um design antiético, os criadores de um produto visam propositalmente vulnerabilidades na psicologia humana para induzir os usuários a agir de determinada maneira.

O design antiético não é tão comum quanto o design ruim, mas está crescendo. “O problema é o seqüestro da mente humana: sistemas que são melhores e melhores em orientar o que as pessoas estão prestando atenção e melhor e melhor em orientar o que as pessoas fazem com seu tempo do que nunca”, disse o especialista em tecnologia Tristan Harris. entrevista para a Wired. “Essas são coisas como ‘listras do Snapchat’, que envolvem crianças para enviar mensagens de um lado para outro com cada um de seus contatos todos os dias. São coisas como reprodução automática, o que faz com que as pessoas passem mais tempo no YouTube ou no Netflix. Estas são coisas como dicas de consciência social, que mostrando a você como recentemente alguém esteve on-line ou sabendo que alguém viu seu perfil, mantém as pessoas em um panóptico.”

A transição da tecnologia para a compulsão para o vício não é acidental. É o resultado de decisões conscientes de design.

O surgimento da ética no design

Nos últimos anos, fomos enterrados sob uma avalanche de escândalos de tecnologia B2C – a espionagem da NSA em 2013, a interferência eleitoral na Rússia em 2016, a Cambridge Analytica em 2018 – e isso manteve os holofotes firmemente na tecnologia voltada para o consumidor. Mas as coisas estão mudando.

Os jornalistas estão começando a dedicar mais centímetros à tecnologia e às ferramentas que sustentam nossa economia. E isso é importante porque a influência das tecnologias B2B se estende muito além da pessoa individual que a utiliza. Em 2014, um algoritmo de análise de voz defeituoso levou o governo do Reino Unido a acusar falsamente 7.000 estudantes estrangeiros de trapacear em testes de inglês e de cancelar injustamente seus vistos.

Esse aumento na cobertura da mídia reforçou a conversa interna sobre ética no design. Figuras de liderança no espaço do design, como Mike Monteiro e o denunciante de tecnologia Tristan Harris, da Valley, estão empurrando para trás os produtos de exploração e defendendo mudanças filosóficas por atacado em todo o design.

Grandes empresas como o Dropbox também estão prestando atenção. De acordo com o gerente de produto Devangi Vivrekar, os designers do Dropbox são guiados por uma filosofia de design compartilhada. “Temos um conjunto abrangente do que chamamos princípios de produtos que acompanham nossa missão. Os cinco princípios do produto são: foco adotivo; ligue os pontos; construir espaços inclusivos; torná-lo humano; e chegar a simples.

Esses princípios ajudam os designers a orientar suas decisões e, em última análise, produzem recursos que suportam as metas de seus usuários. Por exemplo, o Dropbox acaba de lançar um painel de conteúdo sugerido que analisa a atividade da sua conta e seleciona uma lista de arquivos e pastas que ele considera úteis para seu trabalho atual.

“As sugestões de conteúdo são projetadas para ajudar os usuários a reduzir o tempo gasto na pesquisa de arquivos no Dropbox”, explica Vivrekar. Ao localizar os dados automaticamente, Vivrekar acredita que o Dropbox reforça um dos seus princípios orientadores – conectar os pontos – e ajuda os usuários a juntar tudo o que precisam. “Permitimos que os usuários retornem rapidamente aos arquivos mais relevantes, oferecendo insights adaptados à maneira como funcionam”.

“Nosso ecossistema de integrações ajuda a conectar os pontos ainda mais”, continua Vivrekar. “Uma vez que um usuário encontrou o arquivo que deseja, ele pode abrir esse arquivo com uma extensão do Dropbox, como um editor de documentos ou uma ferramenta de assinatura eletrônica, que permite iniciar um fluxo de trabalho direto do Dropbox.”

Nas próximas seções, veremos duas estruturas éticas diferentes que os projetistas já estão implementando e, em seguida, discutiremos como você pode emprestar algumas de suas ideias.

Design Humano

No final de 2011, o Google adquiriu a startup de navegação por notícias contextualizadas de Tristan Harris, a Apture. Após a venda, Harris foi empurrado para o coração da gigante de tecnologia. Trabalhando como gerente de produto, Harris distribuiu um memorando chamado “Um chamado para minimizar a distração e respeitar a atenção dos usuários” para um punhado de colegas próximos. O memorando se espalhou rapidamente por todo o Google, chegando aos escalões superiores da administração, que recompensou Harris com um novo título de trabalho focado filosoficamente: especialista em design.

A medida deu tempo e espaço a Harris para investigar a ética na indústria de tecnologia. Ele explorou coisas como o LinkedIn explora nossa necessidade de reciprocidade social para expandir e fortalecer sua rede e como o Snapchat usa rastreamento de faixas para incentivar a comunicação quase constante entre seus usuários. Harris deixou o Google em 2016 para explorar a ética do design com mais detalhes por meio de uma nova organização sem fins lucrativos chamada Center for Humane Technology. Através do Center for Humane Technology, Harris desenvolveu uma nova filosofia de design chamada Humane Design, que incentiva os designers a entender as vulnerabilidades de seus usuários e criar produtos que tratam essas vulnerabilidades com compaixão.

Praticamente, Humane Design significa construir produtos que eliminem desvios e distrações das tarefas do usuário, minimizem interpretações errôneas, aprimorem os relacionamentos interpessoais, permitam que os usuários se desconectem com esforço mínimo, respeitem as programações do usuário e vários outros pontos-chave.

Enquanto Humane Design ainda está em sua infância, você já pode ver os brotos de crescimento. A Slack, por exemplo, faz um esforço consciente para respeitar as agendas de seus usuários. Se você enviar uma mensagem para o colega no meio da noite, o Slack não enviará uma notificação por push, a menos que você solicite especificamente. Ao ignorar suas notificações para o horário de expediente, os projetistas do Slack tomaram uma decisão consciente de construir um produto que é melhor para seus clientes em detrimento do tempo de tela.

Para que os designers busquem o Humane Design, o Center for Humane Technology recomenda que os designers se perguntem como podem respeitar o tempo, a frequência e a duração do uso de um produto para se alinhar à vida ideal do usuário. Se um recurso de design – por exemplo, notificações push intrusivas ou conteúdo reproduzido automaticamente – não respeitar a agenda, o Humane Design recomenda removê-lo.

Pensamento de segunda ordem

Em 10 de julho de 2017, o diretor de design Mike Monteiro publicou um ensaio influente intitulado Código de Ética dos Designers, no qual ele argumenta que os designers deveriam se sentir responsáveis ​​pelo trabalho que eles colocam no mundo.

“Não podemos nos surpreender quando uma arma que projetamos mata alguém”, escreve Monteiro. “Não podemos nos surpreender quando um banco de dados que projetamos para catalogar imigrantes leva esses imigrantes deportados. Quando conscientemente produzimos um trabalho que se destina a prejudicar, estamos abdicando de nossa responsabilidade. Quando nós ignorantemente produzimos trabalhos que prejudicam os outros porque não consideramos as ramificações completas desse trabalho, somos duplamente culpados ”.

Ao reivindicar a responsabilidade pelo seu trabalho e suas conseqüências, Monteiro é, sem explicitamente mencioná-lo, defender o pensamento de segunda ordem, uma idéia eloquentemente explicada no livro de Howard Mark, The Most Important Thing .

O pensamento de primeira ordem é simplista. Ele lida apenas com o resultado imediato de uma ação. Se facilitar o envio de uma mensagem direta a um colega por meio do aplicativo de gerenciamento de projetos (ação), será mais fácil colaborar (resultado de primeira ordem).

Enquanto o pensamento de primeira ordem considera apenas as consequências imediatas, o pensamento de segunda ordem considera interações e consequências subsequentes. No exemplo de gerenciamento de projetos, facilitar o envio de uma mensagem direta pode aumentar as interrupções de um colega ao longo do dia (resultado de segunda ordem), o que, por sua vez, pode diminuir sua produtividade (resultado de terceira ordem).

Para aplicar o pensamento de segunda ordem ao seu próprio projeto, o agente de inteligência que se tornou o financeiro Shane Parrish recomenda três práticas específicas.

Primeiro, ao considerar um curso de ação potencial, sempre pergunte a si mesmo “E depois, o quê?”. Essa pergunta estimula o pensamento de segundo nível e força você a ir além das escolhas iniciais de design de primeiro nível.

Segundo, imagine-se cinco minutos, cinco meses e cinco anos no futuro e preveja as consequências de suas decisões. Projetar seus pensamentos no futuro em pontos variados ajuda a moldar seu pensamento de segundo nível tanto a curto como a longo prazo.

Terceiro, crie gráficos de conseqüências para prever consequências de primeiro, segundo e terceiro nível. Esses gráficos provavelmente não serão completos ou totalmente precisos, mas darão uma revisão holística de cada opção de design na tabela.

Quando você aplica essas três técnicas, geralmente descobre que muitas decisões são positivas de primeiro nível, mas positivas de segundo nível.

O pensamento de segunda ordem exige muito trabalho ”, conclui Parrish. “Não é fácil pensar em termos de sistemas, interações e tempo. No entanto, isso é uma maneira inteligente de se separar das massas ”.

Construindo um futuro compassivo

Espero que as gerações futuras olhem para trás nesses anos como um ponto de virada, um momento na história da humanidade quando paramos de explorar vulnerabilidades humanas e começamos a construir tecnologias que protegem nossas mentes e promovem nossos valores.

No Google, a empresa em que Harris conceituou sua filosofia Humane Design, estamos começando a ver alguns recursos eticamente motivados se infiltrando em seus produtos. O Gmail, por exemplo, tem um recurso chamado “Enviar e arquivar” que arquiva um segmento de e-mail quando você responde a ele, em vez de mantê-lo em sua caixa de entrada. Com o segmento arquivado, é menos provável que os usuários se distraiam com emails antigos, o que os ajuda a manter o foco em sua tarefa atual.

Mas ainda há um longo caminho a percorrer. Empresas grandes e pequenas precisam pensar tanto na ética do design de ferramentas específicas, como também no ecossistema em que elas existem.

“Nosso papel nisso é realmente interessante porque o Dropbox atualmente não é a plataforma em que todos os aplicativos vivem”, reflete Vivrekar. “Mas nosso objetivo é evoluir para um centro onde as pessoas conectam todas as ferramentas e realizam o melhor trabalho.” O Dropbox Extensions, que integra o Docusign, o Vimeo, o HelloFax e uma série de ferramentas de edição de imagens, é um passo nessa direção. “Acho que há uma oportunidade realmente interessante para o Dropbox mostrar como é o design ético para uma plataforma”, Vivrekar continua: “Estamos colocando um monte de aplicativos juntos na mesma arena, mas não estamos colocando-os uns contra os outros para competir e minar para a atenção dos usuários. Trata-se mais de dar ao usuário o controle para colocar o aplicativo certo no momento certo para realizar seu trabalho. ”

Construir um futuro ético requer liderança em todo o cenário tecnológico. Ela exige que todos, desde os fundadores até os designers iniciantes, tomem decisões de design que promovam o que é melhor para o usuário e não apenas o que é melhor para a empresa.