lex'talk about tax: Was, wenn die KI in der Steuerberatung Fehler macht? Expertentalk

00:00:01: Carola Heine Gerne.

00:00:03: – Olaf Clüver Hallo und herzlich willkommen zu einer neuen und sehr spannenden Episode von lex Talk About Tax, dem Steuerbranchenpodcast von lexware zu allen Themen, mit denen sich Steuerberatende derzeit unbedingt beschäftigen sollten. Und an meiner Seite, wie immer, meine Co-Moderatorin Carole Heine.

00:00:19: Carola Heine Hallo Olaf, hi. Ich finde es besonders toll, dass wir uns heute wieder unterhalten dürfen, denn wir haben ein absolut spannendes Thema, das zurzeit ausnahmslos alle interessieren dürfte: Künstliche Intelligenz. Sag mal, KI-Tools, wie findest du die denn?

00:00:35: – Olaf Clüver Grundsätzlich finde ich die gut. Es gibt einige Arbeiten, bei denen KI-Tools einen unterstützen können, aber ich plädiere immer dafür, man sollte Ergebnisse niemals reflektionsfrei anwenden, sondern immer noch mal einen kritischen Blick draufwerfen. Kurz gesagt: „Künstliche Intelligenz entbindet einen nicht von natürlicher Intelligenz.

00:00:54: Carola Heine Das hast du sehr schön gesagt und natürlich ist das in der Steuerbranche ein besonders heißes Thema und es wird dich sicherlich sehr erfreuen zu erfahren, dass wir heute gleich zwei spannende Gäste haben, die sich mit KI und Text Technology beschäftigen und die sich unseren Fragen stellen werden. Es geht so spannende Themen wie Haftung, allgemeine Herausforderungen und natürlich alles, was Steuerberaterinnen und Steuerberater jetzt wissen sollten. Und wir werden auch gleich verraten, wer uns da heute besucht. Aber lasst uns jetzt mal loslegen.

00:01:23: – Olaf Clüver Das klingt dann so, als wenn wir gleich eine sehr gute, coole halbe Stunde haben werden und unser Publikum kann sich darauf schon mal freuen. Fangen wir an. Jingle –

00:00:03: Olaf Clüver Ich begrüße Dr. Markus Wollweber von der Kanzlei Streck, Mack & Schwedhelm. Er ist Rechtsanwalt und Fachanwalt für Steuerrecht und ein alter Podcastbekannter. Und ich begrüße Dr. Roger Gothmann. Er ist Co-Founder und CEO von Taxdoo. Und falls das jemand noch nicht weiß, Taxdoo ist das Financial Operating System für den E-Commerce, das unter anderem Umsatzsteuer-und Finanzbuchhaltung für Onlinehändler und deren Steuerberatende abbildet.

00:00:28: Carola Heine Hallo Roger. Hallo Markus. Hi.

00:00:30: Dr. Markus Wollweber Hallo ihr Lieben.

00:00:31: Dr. Roger Gothmann Moin.

00:00:32: Carola Heine Schön, dass ihr heute dabei seid und jetzt hat Olaf euch natürlich sehr kurz und sehr förmlich vorgestellt. Gibt es denn noch irgendwas, was ihr zu dieser Kurzvorstellung ergänzen möchtet? Vielleicht aktuelle spannende Sachen oder persönliche Aspekte, die euch fehlen? Oder vielleicht was ihr in Sachen KI, weil wir ja heute über KI sprechen, seid, wann ihr mit KI arbeitet und was da eure Berührungspunkte sind. Wäre bestimmt auch noch spannend.

00:00:55: Dr. Markus Wollweber Fangen wir gerne an, Roger.

00:00:57: Dr. Roger Gothmann Genau. Vielleicht was, was Sie noch Was ich ergänzen kann, ist, dass ich im Herzen immer noch so ein kleiner Betriebsprüfer bin. Das heißt, ich bin noch seit seit viel Jahren in der Finanzerwaltung gestartet und insofern habe ich da noch so ein bisschen diese Brille drauf. Und aktuelle Berührungspunkte mit KI, der Markus und ich haben da vor ein paar Monaten eigentlich so ein ganz spannendes Projekt gestartet. Da können wir vielleicht noch mal gleich drüber reden. Da geht es quasi die Frage: Wer hält eigentlich den Kopf dafür hin, wenn KI-basierte Fehler passieren, die ja eben auch passieren, weil sie noch nicht hundertprozentig genau ist, weil sie manchmal halitioniert, weil manchmal die Datengrundlage nicht so klar ist, also KI als Blackbox. Und ich glaube, da können wir sicherlich das Thema gut vertiefen, Markus, oder?

00:01:35: Dr. Markus Wollweber Genau, und ich habe mich ja schon ein paar Mal vorgestellt. Ich finde es dann ganz interessant. Unsere Kanzlei ist ja im Kern Berater für Berater und seit Ende des letzten Jahres spült in die Beraterschaft die KI-Anwendung oder die KI-Anwendung rein. Und so spült bei uns dann jetzt seit Ende letzten Jahres genau diese ganze Kaskade an Fragen rein, was das für den Berater, aber auch für die Unternehmen bedeutet. Und vor allen Dingen, vielleicht kommen wir dann auch gleich darauf, welche Fehlerquellen, Gefahrenquellen, aber auch strafrechtliche Fragen sich damit verbinden könnten.

00:02:06: Carola Heine Ja, genau. Das sind tatsächlich auch beide Sachen sind Agendapunkte. Aber ich würde gerne erst noch mal wissen, welche KI-Tools euch begeistern und welche ihr selber nutzt.

00:02:18: Dr. Markus Wollweber Ich bin ja sehr technikaffin, also für den Juristen. Und ich habe jetzt schon mit allem herumgespielt und ich bin auch immer wieder begeistert. Aber sozusagen, diese erste Begeistungswelle, als ich da das erste Mal mit ChatGPT herumgespielt habe, was ja wirklich nur eine von vielen Anwendungen ist, das ist mir so in Erinnerung geblieben. Ich habe dann gesagt: „Auch Spaß wird man gar nicht tun. Mach mal einen Trauerbrief auf meine eigene Beerdigung und dann habe ich gesagt: „Jetzt schreib das mal in der Sprache eines Neunjährigen und jetzt baue noch zwei Zitate von einer es-amerikanischen Schriftstellerin rein und benenne die Fundstelle. Und dann modulierte der immer weiter und meine Begeisterung w wie du es immer weiter.

00:03:01: Carola Heine Das sind auch Ideen, auf die man erst mal kommen muss, oder?

00:03:08: Dr. Roger Gothmann Okay. Absolut. Bei mir sind in der Tat auch ChatGPT, und zwar auch zurzeit eher stark im privaten Bereich. Ich habe quasi ChatGPT die App als Siri-Ersatz auf meinem iPhone, weil wer Siri kennt auf dem iPhone, weiß, das ist, glaube ich, so der schlechteste Sprachassistent ever. Wir waren vor kurzem im Urlaub in Dänemark und da war man so einkaufen und ich kann so ein paar Produkte nicht, die Zutatenliste nicht und dann hat man halt das iPhone drüber und ChatGPT liest einem das quasi in fließendem Deutsch oder welche Sprache man auch immer dann spricht vor und das finde ich ganz praktikabel.

00:03:37: Dr. Markus Wollweber Und toll ist es, wenn ich es kurz ergänzen darf bei Mathe. Ich habe 14-jährige Töchter, mit denen ich dann Mathe pauke und wenn wir da irgendwelche Therme und Funktionen eingeben und ich frage ChatGPT, ist es zu 100,0% richtig?

00:03:49: Carola Heine 100,0%. Bei uns ist immer so 107%, wenn es ganz richtig ist. Sagen wir mal, es ist 107% richtig. Ja, es gibt schon super, super spannende Tools auf dem Markt, aber auch entsprechende Bedenken in allen Branchen. Deswegen sprechen wir ja heute.

00:04:07: Olaf Clüver Was mich mal interessieren würde, du hattest das eben angesprochen, Roger. Wie seid ihr beiden eigentlich zusammengekommen? Ihr habt gesagt, ihr habt ein Projekt zusammen. Wie hat sich das ergeben? Ich meine, ihr seid euch wahrscheinlich jetzt nicht irgendwo im Kaffee begegnet und habt gesagt: „Hey, lasst uns mal was machen.

00:04:21: Dr. Roger Gothmann Ja, gute Frage. Also auch da wieder Social Media. Ich habe den Markus, dem folge ich schon länger auf LinkedIn, weil da habe ich noch so ein sehr exponierter der Steuerstrafrechtler ist, von dem es ja nicht so viele gibt und ihr gutem Content eben auch postet. Und Anfang des Jahres war es so, da gab es bei mir so dieser Textech-Bubble, da gab es so einen kleinen Fall, wo quasi zutage getreten ist, dass es da so gewisse Komplikationen im Bereich Steuergenauigkeit, Steuerinterziehung und eben Technologie gab. Und da habe ich gesagt: Mensch, das würde ich doch gerne mal aufgreifen. Da müssen wir doch was machen, was das Thema Transparenz betrifft, auch gerade diese Kernfrage dann trifft. Wer hält den Kopf hin? Der Mandant, der Nutzer, die Steuerkanzlei, der Technologieanbieter. Und dann haben Markus und ich angefangen, darüber zu schreiben und sind mit dem Artikel in der DSTR gestartet und wollen natürlich auch diese Diskussion auch noch fortführen und weiterentwickeln.

00:05:11: Dr. Markus Wollweber Genau, das war wunderbar mit Social Media und der Roger hat sich da auch voll in die Bresche geworfen und hat uns dann auch, wie gesagt, direkt bei der DSTR positioniert. Ist auch ein ganz schöner Beitrag geworden.

00:05:22: Olaf Clüver Ja, das glaube ich. Und bevor wir dann jetzt tatsächlich über die Inhalte sprechen, wollen wir erst mal gucken, wenn wir das jetzt mal nehmen, Text, und Steuerberatende: Wie arbeiten diese Bereiche derzeit überhaupt zusammen? Wie wird es idealerweise in Zukunft aussehen und wie groß ist die Wahrscheinlichkeit, dass es auch tatsächlich dazu kommt?

00:05:44: Dr. Roger Gothmann Ich kann ja gerne mal anfangen, weil ich komme jetzt gerade, also vor ein paar Stunden, ich komme gerade aus Oberhausen von einer Steuerkanzlei, die unsere Technologien nutzt und man muss sagen, da findet gerade so ein bisschen, kann ich sagen, das große Wort „Zeitenwende jetzt in den Mund, im Gottes Das wäre viel zu hochgegriffen. Aber was ich sagen würde, ist, dass in den letzten Jahren – wir sind ja 2016 selber gestartet – die beiden Welten noch so ein bisschen getrennt waren. Die Unternehmen, die Technologienunternehmen haben sie ihre Produkte gebaut, häufig auf der grünen Wiese, sind da auch schnell vorangekommen, sind schnell gewachsen, die Produkte haben sich schnell weiterentwickelt und gerade die Kanzleien als Nutzer wiederum auf der anderen Seite, die haben das erst mal so hingenommen, haben die Produkte genutzt und jetzt merkt man schon, dass es an der einen oder anderen Stelle knirscht. Zum einen war natürlich die Technologieunternehmen dann nicht unbedingt passend genau auf die Nutzer, die ihre Produkte ausgerichtet haben und auch beide Seiten vielleicht nicht so miteinander kommuniziert haben, wie es eigentlich sein müsste, weil das ist, glaube ich, das Wichtigste und das wäre auch meine Hauptbotschaft heute: Egal, welche Technologie irgendwo da rumschweift und welche Technologie man nutzt, am Ende sind da auch immer Menschen dahinter.

00:06:46: Dr. Roger Gothmann Die haben ihre eigene Agenda, die haben ihr eigenes Mindset und ihre eigenen Ziele vor Augen und idealerweise kommen die beiden Welten eben zusammen. Und das ist, glaube ich, jetzt umso wichtiger, dass man miteinander spricht. Und deswegen haben wir zum Beispiel bei uns im Unternehmen, jetzt auch eine Initiative gestartet, dass wir regelmäßig in die Kanzleien reingehen, aber auch die Kanzleien regelmäßig zu uns kommen, damit man einfach so ein grundlegendes Verständnis füreern kann.

00:07:12: Dr. Markus Wollweber Genau, also meine Wahrnehmung ist auch, dass überwiegendwie ein KI als erstes als Unterstützung in die Beraterschaft kommt. Aber natürlich, KI ist von jedem einsetzbar, auch von TechSec-Unternehmen, die jetzt nicht unwiederbar darauf konzipiert sind, Beratern zuzuarbeiten, sondern in Konkurrenz zu Beratern zu treten. Und das wird wahrscheinlich heute unser Thema nicht sein. Da kann man lange darüber diskutieren, bis wo in berufsrechtliche Grenzen gehen, ob die verschoben werden müssten und so weiter. Fakt ist, dass es alles gibt, also sowohl in einer gewissen Konkurrenzsache, aber derzeit vor allen Dingen, und das ist das, was sich am Markt abbildet, die Unterstützung für die Berater. Und da sind wir auch bei Streckmarkt Schwede mächtig am Testen und gucken uns alle möglichen Solutions an. Manchmal sind wir ernüchtert, manchmal erstaunt, wie das so ist. Wir lernen uns gerade da kennen.

00:07:58: Carola Heine Kann man denn was dazu sagen? Werden Tech-Tech-Angebote in Konkurrenz zu Steuerberatern treten oder wird sich das eher ergänzen? Ich versuche noch, so ein Gefühl dafür zu kriegen: Was sind so die Herausforderungen jetzt auch für kleinere Kanzleien?

00:08:13: Dr. Roger Gothmann Ich würde nicht sagen, in Konkurrenz. Vielleicht in gewissen Aufgabenbereichen, gerade diese repetitiven Aufgaben, wo ich vielleicht auch nicht zwingend dieses fundierte Steuerwissen brauche, da in keinster Weise. Ich meine, da finden ja die Kanzleien aktuell eh kaum Nachwuchs und entsprechende Fachkräfte. Das heißt, da macht Tech oder auch KI, glaube ich, die Kanzleien deutlich effizienter. Was ich aber aktuell eben auch sehe, ist und das ist vielleicht auch eine steile These, ich würde behaupten, dass generative KI vielleicht aktuell die obersten 10% vom Wissen her, deutlich effizienter macht, die anderen eben nicht, weil man braucht eben schon fundiertes Wissen. Man braucht zum einen dieses Steuerwissen. Selbst wenn ich so ein hundertseitiges BMF-Schreiben bei ChatGPT reinwerfe und sage: „Machen wir mal eine Zusammenfassung, muss ich ja irgendwie eine grobe Ahnung dem haben, was da drin steht, überhaupt einschätzen zu können, ob das, was da komprimiert rauskommt, noch wirklich richtig ist oder ob die KI vielleicht angefangen hat zu halucinieren. Oder in meinem Bereich, wo wir über Massendaten reden, kann generative KI, gerade durch die statistischen Methoden, die da auch drinstecken, sage ich mal, auch viel an Fehlinterpretationen rausfiltern. Aber auch da brauche ich als Anwender ein Grundlegensverständnis von diesen Methoden, welche Methoden werden da angewendet und wie muss ich die Ergebnisse interpretieren?

00:09:28: Dr. Roger Gothmann Und ich muss auch ein gewisses Grund die Verständnis von den Daten dahinter haben, das eben auch entsprechend beurteilen zu können. Deswegen meine stelle These: Ich würde behaupten, aktuell generative KI macht das Oberste 10%, dieser klassischen High-Performer, deutlich effizienter. Wie es darunter aussieht, da wage ich noch nicht so, mich zu äußern.

00:09:46: Dr. Markus Wollweber Ja, da bin ich auch ähnlich. Konkurrenz sehe ich wenig. Wir hatten ja in so einem DSDR-Fall so einen Versuch, so ein bisschen in diesen Deklarationsbereich konkurrenzmäßig zu treten. Das trifft aber überhaupt nicht die breite Masse des Angebots. Und für mich sehe ich, so ähnlich wie der Roger, die zeitnahen Einsatzpunkte eher wie so ein wissenschaftlicher Mitarbeiter oder so, wie wir auf Neudeutsch sagen, First Year Associate, also ein Berufsanfänger, der sozusagen streng und eng geführt wird von einem alten Hasen und mit Arbeitsaufträgen versehen wird. Und dann muss alles kontrolliert werden. Also ist das richtig? Kann das sein? Manchmal ist auch staunt, was für tolle Ergebnisse rauskommen. Dann arbeitet man daran weiter, aber das ersetzt sozusagen diese oder in zeitnahe Zukunft kann das diese Art der Arbeit ein Stück weit ersetzen, was ja in Zeiten von Fachmängelsituationen und überhaupt den großen Problem und Nachwuchs zu bekommen, auch noch nicht mal so ein negatives Signal in der Arbeitsmarkt sein muss.

00:10:52: Olaf Clüver Wenn Sie jetzt mal davon ausgehen, dass es einen Fehler in einer Steuer-App oder in einer Steuer-KI gibt. Wer haftet für was, wenn es beispielsweise durch eine falsche Programmierung oder einen falschen Quellenverweis in mehreren tausend Fällen zu Steuerverkürzungen kommt?

00:11:12: Dr. Markus Wollweber Soll ich mal anfangen?

00:11:13: Dr. Roger Gothmann Oder mir egal? Gerne, Markus, weil das ist ja genau der Kern unseres Vertikers. Und insofern, das ist, glaube ich, auch deine Part, die Haftungsfrage.

00:11:22: Dr. Markus Wollweber Also ist ja erst mal sehr schwierig, sozusagen das allgemein runterzubrechen, sondern es wird auf die konkrete Anwendung Es macht auch einen riesigen Unterschied, ob sozusagen eine KI-Anwendung vorgesehen ist, dem Berater nur erst der Arbeitsergebnis zu geben, so ähnlich wie ich einen wissenschaftlichen Aufsatz schreibe. Und hier trete eine an der Grenze der Unvertretbarkeit anzusiedelte Mindermeinung und damit ziziert mich einer und fällt damit dann in der Steuererklärung auf die Nase, dann hafte ich als Autor nicht dafür. Das heißt, wenn jetzt Haufe oder Jury oder wer auch immer da in Zukunft eben dem regenerativen KI einsetzt, uns vorläufige Arbeitsergebnisse zu liefern, wird deren Haftungsrisikole nicht existent sein. Entschuldigung, wenn ich das so sage. Anders ist es, wenn ich sozusagen ein Softwareangebot mache für den unmittelbaren Use, also vor allen Dingen beispielsweise in der Steuerabteilung oder sonst bei Mandanten. Und ich, dann kommt es natürlich auf AGBs an, das soll gar nicht mein Thema heute sein, dann kommt es sehr darauf an, was die vereinbarte geschuldete Hauptleistung ist und wie ich da die Leistungen verkaufe, vielleicht ja sogar im Sinne eines Werkvertrags mit einem gewissen Erfolg. Das wäre schlecht. Wenn ich sozusagen vertragsrelevant suggeriere, hier gibt es keine Fehler und du kannst das als richtig übernehmen, was wir hier ausspucken, ist zwar unkritisch und das ist natürlich für den Vertrieb einer solchen Software ungemein wichtig.

00:12:54: Dr. Markus Wollweber Ja, dann komme ich in haftungsrechtliche, zivilrechtliche Tiefen und es Es gibt aber noch andere Tiefen. Vielleicht willst du, Roger, einfach ergänzen, nämlich auch steuerlich und auch dann strafrechtlich. Da kann ich ja dann gleich auch noch mal ergänzen. Können Fragen oder geben sich unmittelbare Fragestellungen?

00:13:11: Dr. Roger Gothmann Ja, ich glaube, den Fall, den wir diskutiert haben, der war ja so hinten raus relativ klar, was ist da passiert. Da ist etwas passiert, wo ich sagen würde, da darf KI eigentlich noch gar nicht zum Einsatz kommen, und zwar die unmittelbare Steuerfindung. Das heißt, da wurden Sachverhalte reingeschossen, hausseitsnahe Dienstleistung, und die generative KI beziehungsweise die Technologie hat daraus gewisse Pauschalen gemacht, damit man möglichst schnell viele tausend Steuererklärungen ans Finanzamt effizient abgeben kann. Und das ist, glaube ich, offenkundig, dass es diese Pauschalen im Ertragssteuerrecht, im Einkommenssteuerrecht, gar nicht gibt. Sprich, da hat man sich die Sache relativ einfach gemacht. Und insofern ist da auch, glaube ich, die Frage der Haftung relativ klar. Deswegen würde ich auch – und das bin ich auch gleich zu Ende mit meinem Part – deswegen würde ich auch derzeit davon absehen, wenn die unmittelbare Steuerfindung, und für mich ist das quasi anhand von automatisierten oder von maschinenerließbaren Sachverhalten Steuergesetze anzulegen, würde ich da noch von absehen. Da würde ich immer noch auf den klassischen Entscheidungsbaum setzen, weil da hat man die volle Kontrolle drüber. Das ist keine Blackbox und das wäre quasi so meine Erkennt ist. Wie gesagt, bei der Haftungsfrage ist Markus.

00:14:18: Dr. Markus Wollweber Genau, also dann kurz noch bei dem Beispiel zu bleiben. Um das Produkt überhaupt verkaufen zu können, braucht man eine Usability. Das heißt, das Erwartungsbild hier, eine Einkommensschildklärung für Arbeitnehmer zu machen. Dafür war das Ding programmiert, ist wahrscheinlich, dass es innerhalb von zehn Minuten geht. Und haushaltsnahe Dienstleistung ist fürchterlich kompliziert und kleinteilig und da muss ich jeden einzelnen Euro als unbare Überweisung nachweisen, dann meine Steuerminderungen zu bekommen. Das setzt natürlich das Ziel, dass ich das in zehn Minuten mache, überhaupt in keiner Weise um. Also das ist doch nur ein Beispiel, hat man von den Programmierern wohl, also wir kennen nicht die interne, wir kennen das auch nur von außen, wohl bewusst in Kauf genommen und gesagt: „Ach, was sollen wir mit den ganzen Beträgen? Wir fragen einfach die Quadratmessergröße der Wohnung ab und dann geben wir einfach einen fiktiven Betrag an. Das hat eigentlich im engeren Sinn mit KI, also mit Programmierung nichts zu tun, aber mit den Herausforderungen, vor denen dann ganz konkret ein solches Unternehmen steht. Ich sitze ja normalerweise immer auf der Seite der Beschuldigten. Ja, deshalb halte ich mich da auch zurück. Aber sagen wir, es gibt dann gewisse Anhaltspunkte, dass das Steuerunterziehung sein könnte.

00:15:25: Dr. Markus Wollweber Und dann stellen sich spannende Fragen. Ich möchte unsere Hörer nicht und Zuschauer nicht überfordern, aber eigentlich brauche ich immer einen Haupttäter, damit ich dann Gehilfe oder Anstiftender sein kann, also Teilnehmer. Und diejenigen, die unmittelbar jetzt die Erklärung abgeben oder dir das unterzeichen, das sind ja die User. Und da ist es erstens, ich möchte das nur kurz aufreißen, man muss dann sagen, die Softwarebetreiber sind die Haupttäter als mittelbare Täter, die den unmittelbaren Nutzer als douloses Werkzeug benutzen. Na, schlimme Wörter hier. Man merkt schon, dass es sehr spannend wird und dass es aber ein Riesenthema ist. Wir können ja gleich auch noch mal andere Beispielsfälle machen, denn wenn da solche Unrichtigkeiten, egal ob vorsätzlich oder unvorsätzlich, drin sind, hat man ja dadurch, dass das automatisierte Prozesse sind, die für viele tausend Einzelfälle angelegt sind, direkt eine riesige Auswirkung. Das macht das ja so gefährlich.

00:16:27: Carola Heine Also ich würde mich über noch ein Beispiel freuen, vielleicht, wo die Beteiligung der Steuerkanzlei etwas klarer wird, weil wir ja viel mit Steuerberatern hier …

00:16:37: Dr. Markus Wollweber Ja, es könnte sein, sagen wir, nehmen wir irgendeine Verkehrssteuer oder sagen wir, einen Zoll und da assistiert jetzt … Es ist ein fiktives Beispiel – eine KI, den richtigen Zolltarif zu ermitteln. Und jetzt hat man sozusagen aufgrund eines Programmierungsfehlers eben die falsche Zollgruppe in vielen tausend Fällen, falschen Zolltarif vorprogrammiert und die Steuerberater setzen das jetzt ein, ohne sozusagen das durchdrungen zu haben und ohne auch kognitiv zur Kenntnis genommen zu haben, dass da jetzt in vielen hundert Fällen bei denen, zum Beispiel zu niedrige Vormeldungen für Zölle abgegeben werden. Und dann erst mal handeln alle unvorsätzlich. Das heißt, strafrechtlich hat man zunächst kein Problem. Auch der Programmierer hat kein Problem. Sehr interessant wird es dann nur, wenn jetzt, sagen wir mal, heute kommt der Programmierer, schweißnass zum Geschäftsführer der Softwarebude und sagt: „Mensch, we have a problem. Und man fängt an zu suchen und zu suchen und kann die Software auch über viele Wochen nicht einfach umstellen und muss vielleicht erst mal eine Fehleranamnese machen. Und jetzt entscheidet sich der Geschäftsführer der Softwarebude: „Wir unterrichten schon mal alle. Achtung, Stopp. Ihr müsst das jetzt alles händisch machen. Super-gau für Softwarefirma. Das hängt wie so ein Produktschaden, wie Salmonellen in den Eiern jahrelang an dem Produkt, als Negativmarke.

00:18:10: Dr. Markus Wollweber Oder aber man sagt: „Egal, wir schweigen, wir unterrichten unsere Nutzer nicht und klammheimlich, erst zwei oder drei Monate später unterrichten wir sie und zwischendurch werden dann immerhin mit Wissen und Wollen der Geschäftsleitung dieser Zoll-KI, werden unrichtige Voranmeldungen abgegeben. Und dann wird es wieder spannend. Da gibt es wenig zu. Da gibt es gute Argumente zu sagen, das ist trotzdem nicht strafbar von dem Geschäftsführer. Es gibt aber auch durchaus, man findet dazu gar nichts. Da sind wir auch gerade an einem Folgeaufsatz, den wir überlegen. Aber genauso gut könnte man an Satzpunkt auch wieder mit dieser Figur „mittelbarer Täter finden, dass dann da eine Strafbarkeit entstehen kann.

00:18:57: Dr. Roger Gothmann Vielleicht auch basieren wir auf dem Beispiel, was Markus genannt hat und zufälligerweise bin ich sogar in so einem jungen Start-up investiert, was genau das macht. Da kann man anhand der Produktbeschreibung zwei Tarifenummern hinten rausspucken. Und ich würde sagen, dass die Unternehmen im Markt, die so was machen, wir machen ja zum Beispiel auch, wir können sogar Steuersätze herausführen für das Produkt EU-weit, aber wir definieren das ganz, ganz klar als Empfehlung. Wir sagen, basierend auf allen öffentlich zugänglichen Datenbanken schlagen wir dir diesen Steuersatz vor, aber du musst den selber noch mal bestätigen und weisen auch noch mal auf die entsprechenden, wie nennt man das, Shortcomings sind. Zum Beispiel auch diese öffentlichrechtlichen die man dann nutzt, auch Fehler enthalten können. Das heißt, dieses Marketingversprechen und manchmal ist der Wettbewerbsdruck im Markt ja enorm. Das muss man ja fairerweise auch sagen. Da stecken auch große Investoren dahinter, den Nutzern quasi zu suggerieren, du hast einen end-to-end vollautomatisierten Prozess und kannst dich zurücklehnen, den gibt es eben nicht und schon gar nicht mit generativer KI.

00:19:50: Dr. Markus Wollweber Vielleicht noch ein primitives Beispiel, damit das gar nicht immer so speziell ist. Was ja jetzt gerade in den Markt drängt, sind ja von den großen juristischen, steuerjuristischen Banken auch KI-Lösungen, wo ja sozusagen jetzt in Zeiten dann noch viel einfacher ist, zum Beispiel als Steuerberater einen vollständigen Gesellschaftsvertrag einer GmbH zu machen, sagt man, alles möglich und wird ein riesiger Vertrag oder ein Darlehen mit Rangrücktritt und so weiter. Da ist natürlich einerseits die Erwartungshaltung des Mandanten, der zum Steuerberater kommt: „Machen wir mal den Vertrag für kleinstes Geld besonders hoch. Allerdings berufsrechtlich, wenn es ein reiner Steuerberater ist, darf er ja eigentlich keine unzulässige Rechtsdienstleistung leisten, haftet dann auch ohne Deckungsschutz gegenüber der Haftpflichtversicherung. Wir hatten schon mehrere Fälle, es noch ganz konkret zu machen, wo der Steuerberater gesagt hat: „Mensch, ich mache dir das, und da war ein Rangrücktritt und der war falsch erklärt und hat zwar steuerlich gegriffen, aber nicht insurvenzrechtlich. Und später hat sich der Insurvenzverwalter die ganze Kohle zurückgeholt vom Mandanten und der hat gesagt: „Hier ist Schadenersatz. Du hast mich bei der Rangrücktrittsklausel falsch beraten und die Versicherung hat lange mit sich gerungen, ob sie das überhaupt reguliert, weil das eine verbotene Rechtsdienstleistung durch den Steuerberater war.

00:21:13: Dr. Markus Wollweber Was ich nur sagen will, die KI erhöht den Druck auf den Berater noch weiter, dass da eben so ein Erwartungsbild entsteht: „Mensch, machen wir mal eben den Vertrag?

00:21:24: Carola Heine Ich finde das kein sehr primitives Beispiel. Ich finde das wieder sehr, sehr spannend. Jetzt hast du das Wort „Haft Betriebshaftpflichtversicherung fallen lassen. Sind denn diese KI-Geschichten … Also es gibt ja unterschiedliche Arten, wie so ein Fehler entstehen kann. Einmal die Daten, die man einfließen lässt, können falsch sein oder es kann ein Programmierfehler sein oder ein Anwendungsfehler oder, oder. Sind das Sachen, die von der Betriebshaftpflichtversicherung heute schon abgedeckt werden?

00:21:47: Dr. Markus Wollweber Also wenn bei der normalen Beratung ein solcher KI eingesetzt wird, meine ich von mir, Markus Wojwer, dann entsteht ein Schaden, ist das vom Deckungsschutz umfasst, Punkt Ende aus. Wenn da eine gewisse Einstands nicht von dem Softwareunternehmen bestehen könnte. Da gibt es keine Pflichtversicherung, aber natürlich können die sich auch freiwillig versichern.

00:22:08: Carola Heine Genau. Also Versicherungen können das schon. Die haben das aufgeholt, die sind auf dem Wissensstand, dass die diese KI-Fehler absichern können. Das wäre ja interessant für alle, oder?

00:22:17: Dr. Roger Gothmann Genau. Ich meine, ich glaube, Produkthaftpflicht, Versicherung, in dieser Ecke geht das. So was haben wir auch abgeschlossen und die springen im Zweifel einer, wenn wirklich nachweisbar ist, dass irgendwo ein Fehler in der Technologie dann war, der eben zu diesem Schaden geführt hat Das heißt, man muss also nicht bodenlose Angst vor allem haben, was passieren kann.

00:22:33: Carola Heine Man kann ganz normal manche Schritte ergreifen, die bei allen anderen Geschäftsprozessen auch, und muss dann natürlich gucken, dass man vernünftig arbeitet. Kann man das so zusammenfassen?

00:22:41: Dr. Markus Wollweber Womit wir gerade kämpfen, mal ein Beispiel zu machen. Wenn wir KI einsetzen, heißt das ja überwiegend, dass auf irgendwelchen fremden Rechnern und Servern eine Datenverarbeitung mit Höchstgeschwindigkeit stattfindet. Diese Datenschutzkonformität, das ist ein Thema, selbst wenn alles datenschutzkonform datenschutzkonformen dargestellt wird von einem KI-Softwareunternehmen – also problematisch sind immer Drittländer außerhalb der EU und so weiter – führt das zu einem riesigen Rattenschwanz, dass wir eben eine Datenverarbeitungsvereinbarung schließen müssen und so weiter, dass wir da unseren externen Datenschutzbeauftrag unterrichten müssen. Das ist also ein administrativ erhöhter Aufwand selbst, wenn alles rechtmäßig und datenschutzkonform im materiellen Sinne läuft. Da sollte man wirklich sensibilisiert sein, dass man nicht einfach die ganzen Mandanten-Daten da reinhaut in irgendeine KI, wo man gar nicht weiß, wo die Daten landen. Da muss man vorsichtig sein.

00:23:38: Carola Heine Habt ihr konkrete Tipps für Steuerberater und Steuerberaterinnen, die jetzt anfangen, das einsetzen zu wollen? Also zu gucken, das war zum Beispiel schon mal ein sehr wertvoller Tipp, der vielleicht nicht allen klar gewesen ist. Wenn ihr jetzt eine kleinere Kanzlei, sage ich mal, wieder kennt, die jetzt mit dem Ansatz von KI anfangen wollen, worauf sollten die eurer Meinung nach besonders achten? Was sind eure drei heißen Tipps?

00:23:59: Dr. Roger Gothmann Also ich Ich habe am Ende des Tages zwei heiße Tipps. Das Ganze fängt mit dem Onboarding an. Bleiben wir mal beim Thema Buchhaltung. Mittlerweile wirbt ja jedes Buchhaltungstool, egal für welche Branche, dass die KI-basiert ist. Jetzt stellt man sich vor, wir sind mal im E-Commerce unterwegs, das Tool dockt direkt an so einem ERP-System an, zieht sie die ganzen Umsätze raus, aber irgendjemand vergisst, da einen Schalter zu setzen und die Gutschriften spielen nicht mit rein. Das heißt, die Umsätze sind viel zu hoch. Jetzt geht der Unternehmer hin zur Bank und will eine Zwischenfinanzierung machen, kriegt er auf, weil seine Umsätze ja durch die Decke gehen und Wo man fällt jemand dieser Fehler auf, dass die Umsätze ja gar nicht so hoch sind. Das hätte aber schon im Rahmen der laufenden Buchhaltung auffallen können. Deswegen ist das zum einen das Onboarding so wichtig. Man muss mit dem Mandanten sprechen, aber auch mit dem Technologianbieter und dann hinten draus wirklich Klausibilitäts-Checks etablieren. Also du kannst einfach gesagt: „Traue keine Maschine, sondern definiere Kriterien, wie auch immer die aussehen, anhand der du ruhig schlafen kannst, dass du weißt, das, was da rauskommt, ist konsistent, dass das passt. Genau.

00:25:00: Dr. Markus Wollweber Von mir gibt es noch Binsenweisheiten, Fehler 404: Man muss die Mitarbeiter mitnehmen, dass die bei Todesstrafe verboten wird, ohne Rückmeldung nach oben irgendwelche KI-Sachen einzusetzen. Und dann auch eine Binsenweisheit: Testen, testen, testen. Solange wir nichts unterschrieben haben, rennen uns die Vertriebler alle die Bude ein und richten alles ein und tun und machen, weil das ist eben ganz unterschiedlich, die Qualität. Man muss eben vorher wissen, dass das Produkt zu einem passt und ein einen Mehrwert liefert.

00:25:31: Carola Heine Ja, sehr gut. Danke schön.

00:25:34: Olaf Clüver Also grundsätzlich gilt auch hier, ich hatte es eben schon mal kurz angesprochen, künstliche Intelligenz entbindet uns nicht davor, natürliche Intelligenz einzusetzen.

00:25:45: Dr. Markus Wollweber Das hast du sehr schön gesagt.

00:25:46: Dr. Roger Gothmann Das ist eine gute Klammer, ja.

00:25:49: Olaf Clüver Wir könnten das noch stundenlang machen, weil das wirklich ein mega spannendes Thema ist. Ich finde das wirklich interessant und ich glaube auch, dass gerade die Verunsicherung in der Landschaft der Steuerk Sonstleien recht groß ist. Muss ich das? Verpasse ich sonst den Anschluss? Was mache ich berufsrechtlich? Was mache ich, wenn ich es dann einsetze und wie gehe ich damit um? Ich glaube, das haben wir heute hinreichend und anhand vielerlei praktischer Beispiele sehr, sehr gut erklärt. Und deswegen komme ich auch schon leider zu meiner Abschlussrunde und möchte da aber unbedingt sagen: Bitte kommt wieder. Das Thema KI wird die Welt noch lange beschäftigen und es würde uns sehr freuen, wenn wir euch als Gesprächspartner zu diesem Thema noch mal wieder einladen dürfen. Vielen herzlichen Dank an dieser Stelle und euch gehört das letzte Wort.

00:26:36: Carola Heine Nein, ich muss auch noch was sagen. Entschuldigung. Aber ich wollte fragen, ob der Artikel, den ihr beide zusammen geschrieben habt, frei abrufbar ist und ob ich den in den Show Notes verlinken darf, wenn man den sich einfach angucken kann oder wo der zu lesen ist. Und dann wollte ich fragen, warum ihr beide keinen Podcast zusammen macht und dann aber auch gleich sagen, braucht die nicht. Ihr könnt immer hierhin kommen.

00:26:56: Dr. Markus Wollweber Wir haben ja schon ein bisschen zusammen gepodcastet, der Roger und ich. Aber ich glaube, wir müssten gucken. Von unserer Seite würden wir sofort den Aufsatz online stellen. Ich weiß nicht, ob das rechtlich möglich ist, aber wir können auf jeden Fall den Link und den Einleitungstext dazu für die DSDR online stellen Und ansonsten, KI ist genau das, was mich interessiert. Das neue Sachen interessieren mich immer, gerade die, die den Markt bewegen und es gibt eigentlich kein Thema in den letzten 30 Jahren von technischer Seite, was so eroptiv, aber hoffentlich über unseres Kollegen positiv, unsere Arbeitswelt verändern wird wie KI.

00:27:35: Dr. Roger Gothmann Ja und ich glaube, das Wichtigste, was man hier auch noch mitnehmen sollte, ist, wir haben jetzt viel über diese Risiken, diese Haftungsrisiken gesprochen, aber ich glaube, was man unbedingt beibehalten sollte, egal wie alt man ist, diese Grundneugier, das Ding auch zu nutzen, zu testen, egal ob es im Urlaub ist oder, sage ich mal, jetzt auch in der Literaturrecherche in der Kanzlei. Das ist auf jeden Fall wert und man lernt jeden Tag dazu.

00:27:55: Carola Heine Und es macht Spaß. Es ist ja nicht nur Pflicht. Vielen, vielen herzlichen Dank auch von mir und das war ernst gemeint. Kommt bitte unbedingt wieder. Ich meine, ich finde ja, dass ihr einen Podcast zusammen machen solltet, aber auch bei uns gerne jederzeit. Also hoffentlich bis bald. Danke schön.

00:28:13: Dr. Roger Gothmann Sehr gerne. Vielen Dank euch.

00:28:15: Olaf Clüver Danke. Ciao.