Transkript

00:00:08: Herzlich willkommen zu Ask Ingolf, der Saatkorn-Podcastserie zum Thema Künstliche Intelligenz mit Ingolftids und Gehäuse.

00:00:19: Hallihallo!

00:00:20: Und herzlich Willkommen zur einer neuen

00:00:22: Ask

00:00:22: Ingolffolge.

00:00:24: und so ein Thema was wir schon mal behandelt haben.

00:00:26: ich habe geschaut wann das war?

00:00:27: Ne, bei Ingolf das war Folge vier im August zwanzigvierundzwanzig.

00:00:32: damals ging es um den EUAI Act und Regulation insgesamten heute wollen wir auch noch einmal darüber sprechen.

00:00:38: ne

00:00:39: Genau Erstmal auch von meiner Seite.

00:00:43: Schön, dass ich wieder dabei sein kann und es ist tatsächlich ein Thema was jetzt gerade wieder aktuell auf dem Tisch liegt.

00:00:50: Absolut letzte Woche hat die Europäische Kommission genauer gesagt am neunzehnten Mai einen Entwurf der Leitlinien zur Klassifizierung von Hochisiko-KI System nach Artikel sechs KI Verordnung veröffentlicht Und das kann man jetzt einsehen und kann daraus ableiten, was uns in unserer Branche so beschäftigt.

00:01:13: Das hat mit Recruiting schon eine ganze Menge zu tun, ne?

00:01:16: Das hat mir Recruitting wirklich eine ganze menge zu tun weil viele der Sachen die zumindest einen RTS betreffen werden da wenn man KI einsetzt doch wahrscheinlich als High Risk eingeschätzt und das hat eine Menge Dinge zur Folge auf die man dann halt in Zukunft achten muss.

00:01:34: Jetzt ist das so, ich vermute dass viele dieser ganzen EU-Thematik ähnlich folgen wie ich.

00:01:41: Nämlich sehr high level und dann irgendwie denken, jetzt ist auf einmal doch wieder was Aktuelles da weil das Gesetz ist ja noch gar nicht in Kraft und irgendwie hat man so das Gefühl die brauchen auch noch ordentlich Zeit dafür.

00:01:54: oder Ist es eine Fehlannahme?

00:01:56: Nein, höchste Zeit sich damit zu beschäftigen.

00:01:59: Also die brauchen tatsächlich jetzt noch mal eine ganze Zeit dazu.

00:02:03: Das ist nämlich der Grund, dass das Ganze wird in so einen Omnibus gepackt und um den Busgesetz Und es wird erst in Kraft treten in zwölf siebenundzwanzig.

00:02:14: Das heißt statt acht sechsundzwantig rutschen wir jetzt auf zwölfe sieben und zwanzig.

00:02:22: das heißt auch Wir in der Branche bekommen ein bisschen mehr zeit für die Umsetzung weil da einfach noch ne Menge Menge zu tun ist und auch tatsächlich klarzustellen ist.

00:02:31: Und das hier war jetzt halt der erste Entwurf, der genau um diese Klarstellung geht.

00:02:37: Jetzt gibt es ja verschiedene zeitliche Fristen.

00:02:39: Eine Einlastung sagt zwölf, siebenzwanzig.

00:02:42: da ist zumindest jetzt laut Planung der Anwendungsstart für die Hochrisikosysteme.

00:02:49: zweiter, achter, achtundzwanzig Anwendungsstaat für regulierte Produkte.

00:02:54: Für ihn regulierte Produkt eingebildete Hochrisikosysteme und bis zum dreinzwanzichsten Sechsten.

00:03:00: jetzt kann man bis zwanzig Uhr noch Stellungnahmen abgeben.

00:03:05: Ja genau also da geht es darum dass die Beispiele in den in den Unterlagen genannt sind, halt nochmal genauer spezifiziert werden.

00:03:15: Dass man da noch Klarstellungen hinkriegt und ähnliches mehr.

00:03:19: Das wird spannend.

00:03:21: Ich bin auch mal gespannt was dieses eingebettete Hochrisikosysteme und Stand-alone Hochrisiko Systeme wie das zu verstehen ist genau?

00:03:32: Weil das müssen wir auch noch mal klären weil sonst geht es nämlich tatsächlich auch am zwei Nacht schon für manche los.

00:03:39: Aber so wie wir oder, wie ich das jetzt bisher verstanden habe sind wir tatsächlich erst am zwölf siebenzwanzig dran.

00:03:47: Okay.

00:03:48: Jetzt ist es ja so, dass gerade in letzter Zeit auch durch aufsehenerregende Prozesse aber in dem Fall in den USA schon ordentlich darüber diskutiert wurde was darf KI eigentlich?

00:04:02: Was sollte KI eigentlich dürfen?

00:04:04: und dann gibt's ja oft Argumentationen teilweise auch von Providern die halt sagen Ja am Ende ist der Human In the Loop da Gibt es eigentlich so klare Aussagen, die aus der aktuellen Datenlage sich ergeben?

00:04:19: Man sagt eine Achtung.

00:04:20: Hier ist Obacht geboten.

00:04:23: Ja, so jung in den Loop allein wird einfach nicht ausreichen.

00:04:27: also wenn man sagt okay ich habe da am Ende immer ein Menschen drüber, der darüber schaut irgendwie das verhindert nicht dass ne Anwendung nicht als High Risk klassifiziert wird.

00:04:36: Also damit kommt man da einfach nicht raus aus der Nummer Und das macht es dann für viele wahrscheinlich nochmal besonders anstrengend, weil das bedeutet wirklich Registrierung.

00:04:48: Das bedeutet Risk Management durchlaufend Offenlegungen von Trainingsdaten, wobei das natürlich wenn man eigentlich ein LLM nutzt schwierig wird, weil die Trainings-Daten liegen bei dem großen Provider.

00:05:02: Das heißt dass wir da auch noch mal anders geregelt über die.

00:05:05: Aber trotzdem ist man selber dann in der Pflicht, halt diese ganzen Risk Management Systeme im Place zu haben.

00:05:13: Und man muss es bei der EU und national registrieren.

00:05:19: Dann gibt's ja vielleicht auch so die Idee zu sagen Ja wir haben zwar ein Gesamtsystem besteht aber aus verschiedenen Modulen und nur einzelne Module fallen jetzt in dieses Hochrisikoszenario rein.

00:05:32: Das war glaube ich kein Argument, was mehr so richtig

00:05:35: ist.

00:05:35: Nee, leider zur Zeit... Also so deutet man jedenfalls diese Klarstellung.

00:05:43: Modulare Systeme werden als ein System betrachtet also einen Bewerbermanagement-Systemen, das verschiedene Module hat die alle irgendwie ein bisschen KI nutzen.

00:05:52: Das eine zum Scoring, das andere zum Matching und so weiter und sofort.

00:05:57: Die fallen als Gesamtsystem darunter Und werden das Gesamtsystem betrachtet so jedenfalls im moment die Interpretation.

00:06:09: Ich wollte eigentlich nur den vorgreifen mit dem dritten Punkt also was immer, sobald irgendwie eine Art Profiling Eignung skillniveaus oder sowas irgendwie rausgezogen wird von der KI bist du eigentlich immer im Hochrisiko Bereich.

00:06:24: Es heißt ja nicht dass man es nicht machen darf.

00:06:25: es heißt nur dass ist halt ne ganze Menge Dinge gibt, die man dabei betrachten muss an Folgeabschätzung und auch für die Unternehmen dies anwenden.

00:06:35: Dann zur Verfügung stellen muss an Unterlagen wenn man Hersteller ist.

00:06:40: Jetzt hattest du dir ja insbesondere mal drei Produktkategorien ein bisschen genauer angeschaut ne?

00:06:46: Also das eine war das ganze Thema ATS mit Skill Matching dürfte klar sein fällt voll rein in den Hochrisikobereich nach dem was du gerade gesagt hast.

00:06:55: Sonst noch was Wichtiges dazu zu sagen, so der Produktkategorie?

00:07:00: Also ich glaube, was man also Themen wie Performance-Analyse, Interviewbewertungen und sowas.

00:07:09: Das sind ja alles Dinge die man eigentlich ziemlich gut mit KI erledigen könnte oder die einen da jedenfalls stark unterstützen kann.

00:07:16: Und das wird aber alles jeweils High Risk bedeuten und es bedeutet halt Wie gesagt Die entsprechenden Folge arbeiten.

00:07:25: Jetzt habe ich ein bisschen gestaunt, du hast dann auch die Produktkategorie Stellenbörsen angeschaut und auch die sind durchaus im Hochvisikobereich zumindest in einigen Komponenten.

00:07:36: Wenn du einen Ed Targeting machst und das zum Beispiel... So habe ich es mir jetzt interpretiert auf Social Media Mars mit KI-Unterstützung und dann nicht alle Leute gleich behandelt, sondern nach einem Profiling auswälzt wer welche Stellenanzeigen überhaupt nur zu sehen bekommt.

00:07:58: Dann läuft man damit auch in das Thema High Risk Anwendung rein und das ist schon also das fand ich dann auch sehr interessant.

00:08:05: ehrlich gesagt

00:08:06: Ich vermute ja auch, dass das vielleicht sogar der eine oder andere machen wird.

00:08:11: Und nicht zu sagen alle?

00:08:13: Ja!

00:08:13: Das machen glaube ich auch wirklich inzwischen schon die ganze Menge und das würde aber eigentlich bedeuten, dass da wie gesagt auch die Regularien alle greifen.

00:08:23: Okay...und dann hattest du auch so ein bisschen was zur Plattform Arbeit gesagt.

00:08:28: also gerade Ranking von beispielsweise Freelancern gibt es ja durchaus.

00:08:33: Plattformen die das machen fallen voll darein.

00:08:36: ne

00:08:37: Ja, das fällt alles voll da rein.

00:08:42: Wie gesagt, alles was Richtung Profiling geht in irgendeiner Form, fällt eigentlich unter Hochrisiko und da hilft halt.

00:08:49: wie gesagt... Das heilt nicht wenn man sagt es ist ein human loop!

00:08:52: Das ist nicht heilend.

00:08:55: Dann nochmal das Thema Lernplattformen.

00:08:58: Das betrifft uns bei M-Race ja auch.

00:09:00: also alles was bisher gesagt wurde, Lernplatform aber eben auch Da ist ja das große Thema möglichst individualisiertes Learning also auf die, auf den passenden Background avisierte Lernprogramme individuell zuzuschneidern.

00:09:19: Auch da wieder ist ja kein Paradebeispiel wie man das lösen kann wird aber auch kompliziert.

00:09:25: Ja dann muss man halt glaube ich aufpassen dass man oder nochmal unterscheiden zwischen Ich hab Ein und denselben Lernstoff, den ich unterschiedlich auch unterschiedlichen Lernfaden jemanden vermittle.

00:09:37: Oder ich habe irgendwo durch Kain eine Weiche was sich jemand überhaupt beibringe oder nicht?

00:09:42: Weil ich sage da ist in Anführungsstrichen hoffen mal zu verloren, dann machen wir das nicht.

00:09:48: Das darf halt nicht.

00:09:49: also irgendwas darf.

00:09:51: schon wieder aber mit dem Thema der ganzen Regularien die einzuhalten sind.

00:09:57: Jetzt stelle ich mir das ein bisschen schwierig vor, wenn man dann noch integrierte HR-Suite so im Kopf hat.

00:10:02: Also die ganz großen Anbieter, die letzten Endes alles in einer Suite haben, die fallen ja automatisch sofort auch in das Hochrisikothema rein?

00:10:12: Ja wobei da natürlich die großen Suiten muss man sagen wahrscheinlich auch die genügend Juristen haben, Taf wird dieses ganze Regelwerk tatsächlich, glaube ich für den Mittelstand.

00:10:26: Also auch für einen Mittelstand in der Software-Branche.

00:10:29: irgendwie da die Sachen alle beisammen zu kriegen das wird noch mal den ein oder anderen Euro auf irgendeiner Beraterseite verschlingen werde ich vermuten.

00:10:41: Du hast ja gerade vielleicht sogar noch relativ nett ausgedrückt.

00:10:45: Also ich habe Natur gemäß.

00:10:47: von Saatkornen kommt immer die ganzen HR Startups im Kopf, die ja grade auch mit KI jetzt richtig losgelegt haben und natürlich durch solche Reglementierung eigentlich wieder ausgebremst werden.

00:11:00: Also könnte man unterstellen dass es im Grunde genommen eigentlich nur den ganz großen Playern hilft.

00:11:06: Die haben ja das Problem der Langsamkeit, aber haben natürlich die ganzen Compliance-Prozesse Juristen und so weiter.

00:11:13: Dauert alles länger ist aber hinter rechtlich Tip Top versus die Knallenschnellen Anbieter.

00:11:18: Man dacht

00:11:19: liegt dann ein bisschen nahe manchmal, muss man ganz klar sagen.

00:11:24: Ich glaube nicht dass es eine unlösbare Aufgabe ist.

00:11:27: ich kann auch den sage mal den heeren Gedanken dahinter verstehen Weiß halt wieder nicht, ob wir nicht vielleicht doch irgendwie an der einen oder anderen Stelle über das Ziel hinaus geschossen sind.

00:11:41: Aber wir werden uns halt alle damit auseinandersetzen müssen, dass mit dem Thema beißt die Maus den Faden nicht ab.

00:11:54: Das wird gut passieren!

00:11:56: Ich hätte am Wochenende jetzt, gerade heute ist ja Dienstag nach Pfingsten.

00:12:02: Hatte gestern in meinem Newsletter das auch veröffentlicht.

00:12:05: Ich glaube Technologie plus Vertrauen plus ganze Thema Governance Das ist eigentlich das Erfolgsmodell.

00:12:11: also du musst heute diese Schiene auf jeden Fall mit berücksichtigen und ich bin da innerlich...

00:12:19: Du musst es im Prinzip bei Design einbauen weil sonst hast du eigentlich keine keine Chance.

00:12:28: Also das ist vielleicht auf der anderen Seite auch noch mal so ein bisschen Markteintrittsschutz gegenüber amerikanischen Startups, weil ich glaube die werden sich damit nicht als allererstes auseinandersetzen.

00:12:40: aber auf der andern Seite ist es natürlich auch für hier ansässige in Europa trotzdem eine riesen Aufgabe was da auf einen zukommt

00:12:50: Wiener immerhin und hergerissen.

00:12:51: also aus einer technologie freundlichen perspektive.

00:12:56: ich sage lass uns doch nicht bremsen.

00:12:58: sozusagen ist das natürlich echt kritisch zu sehen.

00:13:01: Aus der Frage heraus, was wollen wir eigentlich vom Werteverständnis?

00:13:05: Wie wollen wir das mit Technologie gearbeitet wird?

00:13:09: Könnte man natürlich auch eine Lanze dafür brechen zu sagen.

00:13:11: Wir müssen halt aufpassen dass da kein Bildwuchs entsteht und eben durch die Technologie dramatische Folgen entstehen, die vielleicht alle nicht haben wollen.

00:13:20: Das ist ja genau die Meinung um dies geht.

00:13:21: Ansonsten wenn du das sonst einfach so machen würdest glaube ich dann haste ganz schnell die Situation.

00:13:27: Dann hast du da vielleicht so auf dem Papier diesen, diesem Jugend in den Lug tatsächlich sitzen.

00:13:32: Aber der hat irgendwie die Funktion von einem Heizer auf Elektro-Lock.

00:13:36: also das ist so ein Abnicken weil wenn du halt ständig irgendwelche Sachen einfach nur bestätigen musst damit du halt dann nochmal als Mensch bestätigt hast kannst du ja nie dafür sicher gehen dass da wirklich auch jemand drüber geguckt hat.

00:13:50: und deswegen glaube ich muss man dafür sorgen dass die Technik an sich vorne auch ohne den Menschen in diesem Hochrisikofeld vernünftig funktioniert.

00:14:02: Dafür sind diese Regularien eigentlich

00:14:04: gedacht.".

00:14:07: Man könnte das so beschreiben, die Compliance entscheidet, wer als Wettbewerber noch auf dem Markt mitspielen kann und danach gilt dann doch weder während kreativsten ist am schnellsten oder am besten wird der Nase vorn haben?

00:14:25: Und wenn das von Anfang an am saubersten mithalt umsetzen kann, wie gesagt sind jetzt ja eigentlich mit den mit diesen Interpretationen die jetzt veröffentlicht wurden und die jetzt vielleicht auch nochmal leicht verändert werden im Juni.

00:14:38: Gehe ich von aus dass es noch ein paar Klarstellungsrunden dreht aber danach stehen alle an derselben Startlinie und sehen alle dieselbe Ziehen Linie.

00:14:50: Im Dezember sieben zwanzig.

00:14:51: dann

00:14:53: Hältst du das eigentlich für also Für wir realistisch.

00:14:57: hältst du, dass die großen US-Player jetzt nicht die kleinen Startups, sondern die großen UES-Playern in der Lage sind für ihren Markt anders zu agieren als in der EU.

00:15:08: Das wäre der erste Teil der Erfahrung und der zweite ist, wie will man das dann eigentlich hinterher kontrollieren?

00:15:13: Ist ja auch nicht so einfach!

00:15:15: Das ist natürlich bei vielen von den Compliance-Teams ein großer Punkt also auch bei DSGVRO.

00:15:21: Also, wie kontrollierst du das wirklich?

00:15:23: Wie kontrollierste da an der Stelle auch ein Meter und Google oder sowas.

00:15:27: Ab und zu gibt es dann ja irgendwelche Riesenknalle und Skandale.

00:15:32: aber ich glaube schon dass also dafür ist der europäische Markt auch für die zu wichtig als dass sie das Außen vorlassen werden.

00:15:40: Und man bin mal gespannt Ja im Moment USA fast gar keine Regulierung mehr, was das Thema KI angeht.

00:15:50: Da ist ja dann diese Kontrolle durch die Regierung jetzt erstmal wieder vom Tisch.

00:15:55: aber ich könnte mir vorstellen dass es auf State-Ebene halt schon noch passiert.

00:16:01: selbst also Kalifornien wo viele der großen Tech Unternehmen immer noch sitzen ist da glaube ich ein bisschen rigoroser und insgesamt entsteht da gerade so einen weltweiter so ein weltweites Thema rüber, selbst der Papst muss einen Enzyklär zum Thema KI abgeben.

00:16:21: Also das ist das erste Mal, dass er zu einem Software-Thema überhaupt irgendwas gesagt hat.

00:16:28: insofern bin ich mal gespannt was bis zwölf, sieben, zwanzig sowieso noch alles passiert und wie wir da auf das Thema Arbeitsmarkt und KI und Arbeit im Allgemeinen schauen.

00:16:42: Weil das betrifft ja hier nicht nur die Automatisierung in großen Teilen eines Recruiting Prozesses, sondern es betriffe dann ja irgendwann mehr.

00:16:48: Und wenn diese Summe des Ganzen so wird dass man da nochmal ganz anders drüber nachdenken muss, kann sich auch bis dahin wieder alles ändern.

00:16:57: Ja wir werden jedenfalls dabei bleiben weil jetzt jedenfalls mal Zeit einmal nochmals einen Snapshot zu machen Nach dem letzten Woche da diese Guidelines veröffentlicht wurden.

00:17:06: Ich bin gespannt wie's weitergeht und dass der Papst sich jetzt äußert.

00:17:10: Na ja, wenn Politiker sagen er soll sich aus Theologie raushalten hat er sich vielleicht gedacht.

00:17:15: Fange

00:17:17: ich mal mit KI an!

00:17:21: In dem Sinn das bleibt spannend.

00:17:22: also bis bald

00:17:23: in Golf.

00:17:24: Bis bald, ciao Gero

00:17:29: Das war die

00:17:29: erste Folge Ask in Golf.

00:17:32: lasst uns doch wissen wie ihr diese Folge fandet könnt ihr gerne bewerten beispielsweise bei Spotify.

00:17:38: aber viel wichtiger noch Sagt mir doch einfach mal Bescheid, welche Themen wir als nächstes im Kontext AI hier besprechen sollen.

00:17:45: Meld mir dazu einfach an sadcornatgooglemail.com oder über LinkedIn einfach meinen Profil.

00:17:52: Gero Hesse ich freue mich auf euer Feedback.

00:17:54: bis dann ciao.