[ChatGPT: aid to medical ethics decision making?]

Anaesthesiologie. 2024 Mar;73(3):186-192. doi: 10.1007/s00101-024-01385-6.
[Article in German]

Abstract

Background: Physicians have to make countless decisions every day. The medical, ethical and legal aspects are often intertwined and subject to change over time. Involving an ethics committee or arranging an ethical consultation are examples of potential aids to decision making. Whether and how artificial intelligence (AI) and the large language model (LLM) of the company OpenAI (San Francisco, CA, USA), known under the name ChatGPT, can also help and support ethical decision making is increasingly becoming a matter of controversial debate.

Material and methods: Based on a case example, in which a female physician is confronted with ethical and legal issues and presents these to ChatGPT to come up with answers, the first indications of the strengths and weaknesses are ascertained.

Conclusion: Due to the rapid technical development and access to ever increasing quantities of data, the utilization should be closely observed and evaluated.

Zusammenfassung: HINTERGRUND: Der ärztliche Alltag ist durchzogen von zahlreichen Entscheidungen. Medizinische, ethische und rechtliche Aspekte sind häufig miteinander verwoben und der zeitlichen Veränderung unterworfen. Hilfe in der Entscheidungsfindung kann u. a. durch die Einbeziehung eines Ethikkomitees oder einer ethischen Fallbesprechung erfolgen. Ob und in welcher Form auch die Einbeziehung künstlicher Intelligenz (KI) und des „large language model“ (LLM; Fa. OpenAI, San Francisco, CA, USA), bekannt unter dem Namen ChatGPT, eine hilfreiche Unterstützung für die ethische Entscheidungsfindung sein kann, wird in jüngster Zeit zunehmend kontrovers diskutiert.

Material und methoden: Anhand eines Fallbeispiels, in dem sich eine Ärztin mit ethischen und rechtlichen Fragen konfrontiert sieht und diese ChatGPT zur Beantwortung vorlegt, werden erste Hinweise auf Stärken und Schwächen herausgearbeitet.

Schlussfolgerung: Aufgrund der rasanten technischen Entwicklung und des Zugriffs auf immer größere Datenmengen sollte die Nutzung engmaschig begleitet und evaluiert werden.

Keywords: Artificial intelligence; Empathy; Ethical analysis; Ethics committees; Legal aspects.

Publication types

  • English Abstract
  • Review

MeSH terms

  • Artificial Intelligence*
  • Clinical Decision-Making
  • Decision Making
  • Ethics Committees*
  • Ethics, Medical
  • Female
  • Humans