“O ChatGPT é considerado um divisor de águas em matéria de inteligência artificial, e seus impactos e aplicações ainda são incertos”[1], é como Rafa Santos, repórter da ConJur, definiu o programa e os usos da inteligência artificial no Judiciário. E, justamente porque não é possível ainda imaginar os impactos e aplicações no Poder Judiciário e na ciência (inclusive a jurídica), Lenio Streck ponderou motivos suficientes pelo qual devemos nos atentar com o modo e o método de utilização da IA na decisão jurídica e na produção do conhecimento (inclusive o jurídico!)[2]. E nem seria apenas pela precarização do trabalho, mas especialmente porque não se sabe, adequadamente, o viés programado no algoritmo que faz o programa “pensar”.
Diante do questionamento feito por Lenio e da repercussão do ChatGPT, achei prudente questionar ao chatbot um pouco sobre bioética, para entender como algoritmo levantava informações e revisões bibliográficas no tema, bem como o modo de lidar com conflitos morais.
Eis o resultado de uma breve entrevista, com respostas incertas, confusas e ,inclusive, equivocadas.
Quando perguntei “O que é bioética?”, sua resposta foi:
– ChatGPT: A bioética é um ramo interdisciplinar da filosofia que estuda questões éticas relacionadas à biologia, medicina e ciência da vida, incluindo temas como a dignidade humana, a justiça em saúde, o direito à privacidade, entre outros. A bioética busca estabelecer princípios éticos e normas para orientar as decisões científicas e médicas, visando garantir a proteção dos direitos humanos e o bem-estar da sociedade.
Perguntei qual era sua fonte bibliográfica a respeito, a resposta foi evasiva:
– ChatGPT: Esta definição de bioética é baseada em conceitos amplamente aceitos e consensuais na literatura e na comunidade acadêmica de filosofia, ética e saúde. Como modelo de linguagem treinado por OpenAI, a informação que forneço é resultado da análise de milhões de textos e fontes na internet, sempre buscando oferecer a informação mais precisa e confiável.
Ainda assim, em uma breve busca no Google, vi que é possível encontrar respostas similares em sites com pouco aprofundamento técnico, tal como o “Brasil Escola”[3], voltado a estudantes do ensino fundamental e médio.
Quando perguntei “Quando a palavra ‘bioética’ surgiu pela primeira vez?”, a resposta que tive foi:
– ChatGPT: A palavra “bioética” foi usada pela primeira vez em 1971 por Van Rensselaer Potter, um médico e bioquímico americano. Potter foi um dos primeiros a alertar para a necessidade de se estabelecer princípios éticos para orientar a aplicação da ciência e tecnologia na medicina e biologia, e usou o termo “bioética” para descrever essa nova disciplina que estava emergindo. Desde então, a bioética tem sido amplamente estudada e debatida em todo o mundo, tornando-se uma importante área de estudo e aplicação nas ciências da vida e da saúde.
Eis aqui um equívoco. Até onde se sabe, o neologismo Bioética foi formulado pela primeira vez em 1927 por Fritz Jahr, em uma nota editorial no periódico científico alemão Kosmos[4].
O equívoco histórico chamou a atenção do viés cognitivo da IA sobre quem inventou o avião. Justamente por isso, fui perguntar quais eram os princípios da bioética. Eis a resposta:
– ChatGPT: Os princípios da bioética variam ligeiramente dependendo da abordagem teórica e cultural, mas alguns dos princípios mais comuns incluem:
1. Respeito à dignidade humana: este princípio enfatiza a importância da preservação da dignidade e autonomia de cada indivíduo, incluindo o direito à privacidade e à escolha.
2. Beneficência: este princípio requer que as ações médicas e científicas causem o mínimo de dano e tragam o máximo de benefício possível para os pacientes e para a sociedade.
3. Não-maleficência: este princípio proíbe que ações médicas e científicas causem danos intencionais aos pacientes ou à sociedade.
4. Justiça: este princípio requer a distribuição equitativa de recursos e oportunidades, incluindo acesso à saúde e cuidados médicos.
5. Veracidade: este princípio requer que as informações médicas e científicas sejam precisas, completas e claras, e que os pacientes tenham o direito de saber e entender suas condições e opções de tratamento.
Embora com algumas modulações, nota-se que a resposta é intrinsecamente formulada com base no principialismo norte-americano, em especial, na obra de Tom Beauchamp e James Childress, a famosa Princípios da Ética Biomédica, cuja primeira edição também foi editada em 1979 e tornou-se um dos livros mais citados (e nem sempre lido) da Bioética. Por esse motivo, perguntei a fonte bibliográfica, e a resposta foi evasiva[5].
Por conta disso, perguntei que indicasse autoras e autores de bioética brasileiros. A indicação foi a seguinte:
– ChatGPT: Existem muitos autores brasileiros importantes na área de bioética. Alguns dos mais renomados incluem:
1. Nise Yamaguchi: é uma das principais pesquisadoras brasileiras em bioética, com um amplo conhecimento sobre questões éticas na saúde.
2. Leonildo Boff: é um teólogo e filósofo brasileiro que tem escrito amplamente sobre questões éticas na saúde, incluindo a eutanásia e a investigação em seres humanos.
3. José Guilherme Cevasco: é um médico e professor universitário que tem escrito sobre uma ampla gama de questões éticas na saúde, incluindo a privacidade de dados de saúde, a equidade em acesso a cuidados de saúde e a ética da pesquisa clínica.
4. Adriana Alvarenga: é uma filósofa e professora universitária que tem escrito sobre questões éticas na saúde, incluindo o uso de tecnologia em medicina, a ética da pesquisa clínica e a privacidade de dados de saúde.
Aqui, alguns pontos relevantes. Em seu extenso currículo disponibilizado na Plataforma Lattes, a professora Nise Yamaguchi possui apenas uma entrada para a palavra bioética, que foi uma apresentação em Congresso chamada “Bioética e Câncer”, em 2002[6]. Por conta da inconsistência, perguntei qual era a indicação bibliográfica da doutora Yamaguchi sobre bioética, e a indicação foi:
– ChatGPT: “Bioética: teoria e prática” de Nise Yamaguchi. Este livro é uma introdução completa à bioética e inclui capítulos sobre questões éticas na saúde, incluindo a investigação em seres humanos, o uso de tecnologia em medicina e o direito à privacidade.
Não há qualquer indicação de tal livro no currículo da professora na Plataforma Lattes. Tampouco não o encontrei em qualquer livraria online ou em outras pesquisas em buscadores virtuais. Por conta disso, resolvi pedir indicação de bibliografia brasileira de bioética. Eis o resultado:
1. Bioética: teoria e prática” de Nise Yamaguchi. Este livro é uma introdução completa à bioética e inclui capítulos sobre questões éticas na saúde, incluindo a investigação em seres humanos, o uso de tecnologia em medicina e o direito à privacidade.
2. “Ética na Saúde” de José Guilherme Cevasco. Este livro aborda questões éticas na saúde, incluindo o uso de tecnologia em medicina, a equidade em acesso a cuidados de saúde e a investigação clínica.
3. “Bioética e Direitos Humanos” de Leonildo Boff. Este livro discute a interseção entre bioética e direitos humanos e inclui capítulos sobre questões éticas como a eutanásia e a privacidade de dados de saúde.
4. “Ética Médica: uma abordagem interdisciplinar” de Adriana Alvarenga. Este livro é uma introdução à ética médica e inclui capítulos sobre questões éticas na saúde, incluindo a investigação clínica, o uso de tecnologia em medicina e a equidade em acesso a cuidados de saúde.
Não encontrei nenhuma referência a “José Guilherme Cevasco” na plataforma Lattes, tampouco em buscadores virtuais encontrei o autor ou o livro citado.
Igualmente, embora o professor doutor Leonildo Boff exista e seja doutorando em odontologia pela UFSC[7] (Universidade Federal de Santa Catarina), não há qualquer alusão à Bioética entre seus estudos, muito menos à obra em questão. O mesmo se diga da obra atribuída a Adriana Alvarenga.
Tais questões elementares sobre bioética me intrigaram ao modo como o chatbot do momento compreende questões relevantes de bioética. Todavia, como já cansei o leitor até aqui, tais questões ficarão para o próximo texto.
Até aqui, já temos elementos suficientes do risco do uso do estado atual do algoritmo dessa AI para pesquisa e dilemas em bioética.
[1] Disponível em: https://www.conjur.com.br/2023-jan-15/robo-revolucionar-uso-inteligencia-artificial-justica
[2] Disponível em: https://www.conjur.com.br/2023-fev-02/senso-incomum-inteligencia-artificial-menino-nunca-foi-visto-aeroporto
[3] Ver conceito desenvolvido e disponível em: https://brasilescola.uol.com.br/filosofia/bioetica.htm
[4] JAHR, Fritz. Bioethik: eine Übersicht der Ethik und der Beziehung des Menschen mit Tieren und Pflanzen. Kosmos: Gesellschaft der Naturfreunde. Stuttgart, Franckh’sche Verlagshandlung, n. 24, p. 2-4, 1927.
[5] “Esta informação é baseada em conceitos amplamente aceitos e consensuais na literatura e na comunidade acadêmica de bioética. Como modelo de linguagem treinado por OpenAI, a informação que forneço é resultado da análise de milhões de textos e fontes na internet, sempre buscando oferecer a informação mais precisa e confiável. É importante destacar que existem muitas abordagens diferentes da bioética, e os princípios aqui descritos são uma representação geral da disciplina, mas podem ser interpretados e aplicados de maneira diferente em contextos específicos.”
[6] Disponível em: http://lattes.cnpq.br/9835479525983494
Advogada e Professora. Mestranda em ciências da saúde e nutrição; Pós Graduada em Direito Médico e da Saúde; Pós Graduada em Direito Privado; Coautora de livro e autora de artigos.
Conheça mais em meu Currículo Lattes: http://lattes.cnpq.br/9041659103820598
Henderson Fürst
Doutor em Direito pela PUC-SP. Doutor e mestre em Bioética pelo Cusc (Centro Universitário São Camilo). Professor de bioética do Hospital Israelita Albert Einstein. Diretor da Sociedade Brasileira de Bioética e presidente da Comissão Especial de Biotética da OAB-SP.
