Prompting in Pflege & Beratung - Gedanken zur Reflexion

Disclaimer

• WiQQi stärkt die fachlich und ethisch reflektierte, kriterienorientiert begründete Entscheidung für oder gegen den Einsatz von Technik im konkreten Einzelfall.
• Das ist für uns der Reflexionsmaßstab zum Einsatz und Ausschluss von KI
  • Reflexion: KI ermöglicht zugriff auf das statistisch häufige und Wahrscheinliche. Diese allgemeinen Phänomene können in der persönlichen Beratung zur reflexion des Konkreten Einzelfalls genutzt werden.
  • Kriterien: Aus der Reflexion und auch in der KI-Recherche entspringen Kriterien. Bei der Formulierung und Entwicklung der allgemeingültigen, vermittelnden Kriterien kann KI genutzt werden - die Anwendung im konkreten Einzelfall ist ein Aushandlungsprozess zwischen Ratsuchenden und Beratenden.
  • Begründung: Die Begründung im konkreten Einzelfall ist die Dokumentation des Beratungsprozesses. Dieser Prozess findet im Dialog zwischen Ratsuchenden und Beratenden statt.

ethische Reflexion

Respekt vor der Autonomie

• Bin ich transparent zu den Grenzen und Limitationen
  • meines persönlichen Wissens?
  • zum Einsatz der KI?
  • zu meinem Prompt?
• In welcher Weise und mit welchem Umfang habe ich mich mit der von mir genutzten KI deren Funktion und Risiken auseinandergesetzt?
  • KI im Allgemeinen
  • KI die ich nutze im Speziellen
  • Version und Wissensstand zum genutzten Zeitpunkt?
• Ab welchem Punkt gefährde ich die Autonomie meines Gegenübers mit dem (nicht-) Offenlegen der Limitationen in der Beratung?
• Tendenziöse beratung
  • Ist meine Beratung Tendenziös?
  • Sind meine Prompts und Informationsmaterialien Tendenziös?

Benefizienz (Fürsorge)

• Welchen Nutzen benötigt die Ratsuchende Person von der Beratung?
  • Welche Kompetenz und welche Wissenslücken bringe ich ein?
  • Welche Kompetenz und welche Wissenslücken bringt die KI ein?

Non-Malefizienz (Nicht-Schaden)

• Wie kann eine falsche oder missverstandene Beratung zu Schaden führen?
  • Welches Risiko bringe ich ein - wie kann ich es reduzieren?
  • Welches Risiko bringt die KI ein - wie kann ich es reduzieren?
• Welche Meta-Daten gelangen ausserhalb meines Prompts an die KI?

Gerechtigkeit

• Gerecht Allokation von MItteln:
  • In welchen Bereichen kann ich meine Zeit im Sinne der Ratsuchenden gerecht verteilen?
  • In welchen Bereichen kann ich mich von der KI entlasten lassen?

fachliche Reflexion

Struktur

• Mit welcher digitalen Identität setze ich KI ein?
  • privates Konto
  • organisatorisches Konto
  • Konto der Ratsuchenden

Prozess

• In welchen Prozessschritten der Beratung setze ich KI ein?
  • Fallakquise
  • Fallverstehen
  • Konzeption von Lösungsansätzen
  • Suche nach Lösungen
  • Ableiten von Kriterien
  • Fachliche / ethische Reflexion
  • Beschaffung
  • Evaluation
• Wie reduziere ich unerwünschte Effekte?
  • Cognitive Debt: Kognitive Schulden durch Auslagerung von Gedankenarbeit
  • Dunning-Kruger-Effekt

Ergebnis

• In welchem Format ist das Ergebnis?
  • Ausführliche Fliesstexte erfordern mehr Menschliche Zeit als kompakte Formate.
  • Substantivierte Stichpunkte erfordern mehr Interpretation als Prägnante Aussagen.
• Welche Fehler und Verzerrungen bringt das Ergebnis mit sich?
  • Wie reproduzierbar ist das Ergebnis?
  • Auf welcher Methode basiert das Ergebnis?
  • Was steht im Fokus?
  • Wo sind blinde Flecken?
• Wie verwende ich das Ergebnis?
  • Ist der Einfluss von KI systematisch dokumentiert und aufgezeigt?
  • Ist der Einfluss von KI direkt im Ergebnis- und Entscheidungsprozess?
  • Ist der Einfluss von KI beschränkt auf "Reflexionsanlässe"