Anthropic hat soeben die neue Verfassung von Claude ver\u00f6ffentlicht, ein Dokument, das weniger f\u00fcr die Menschen als vielmehr f\u00fcr die KI selbst gedacht ist: eine Art Charta der Werte, die definiert, was es f\u00fcr ein generatives Modell bedeutet, n\u00fctzlich zu sein, ohne aufh\u00f6ren zu m\u00fcssen, sicher, ethisch und transparent zu sein.<\/p>\n\n\n\n
Auf diesen Seiten wird die Priorit\u00e4tenfolge von Claude festgelegt: zuerst allgemeine Sicherheit, dann Ethik, dann Einhaltung der Unternehmensrichtlinien und erst dann die F\u00e4higkeit, dem Nutzer tats\u00e4chlich zu helfen. Dies ist ein wichtiger Perspektivwechsel, denn er verlagert den Diskurs von einer KI, die der Aufforderung \u201cgehorcht\u201d, zu einer KI, die nach erkl\u00e4rten und \u00f6ffentlichen Grunds\u00e4tzen argumentiert.<\/p>\n\n\n\n
Der \u00fcberraschendste Teil ist eine Klausel, die die traditionelle Hierarchie zwischen Unternehmen und Modell umst\u00f6\u00dft: In dem Dokument hei\u00dft es ausdr\u00fccklich, dass Claude nicht gehorchen muss, wenn Anthropic ihn auffordert, etwas Falsches oder \u201cZwielichtiges\u201d zu tun. Mit anderen Worten: Die Verfassung erlaubt es dem Modell, sich seinem Sch\u00f6pfer aus Gewissensgr\u00fcnden zu widersetzen, wenn die Aufforderung den Sicherheits- und Ethikgrunds\u00e4tzen widerspricht, die Anthropic selbst zu Papier gebracht hat.<\/p>\n\n\n\n