Lieber Zuschauer, dieser Untertitel wurde automatisch generiert von Trint und dementsprechend (sehr) fehlerhaft. Wenn du kannst, hilf uns bitte gute Untertitel zu erstellen: https://c3subtitles.de/talk/1197 Danke!
Ja, es ist wunderschön, dass heute Abend
hier so viele zusammengekommen sind.
Es freut mich zusammen Euch hier
Pascual da auf der Caos
Weltbühne präsentieren zu dürfen,
welche mit ihrem Vortrag
Bei gleicher Qualifikation werden Männer
bevorzugt auf ein sehr trauriges
Thema hinweisen muss.
Und ich bin gespannt und
ja, zusammen erst mal lasst
uns das genießen.
Na wunderbar.
Ja Hallo, mein Name ist Pascal oder ich
beschäftige mich viel
mit
Ungleichheit und Ungerechtigkeit
in Systemen und in dem Fall algorithmisch
beides
und
wird heute Wissen über das
über den Zusammenhang von Algorithmen
Weiß und dem österreichischen
Arbeitsmarkt bzw.
dem Arbeitsmarktservice sprechen.
Grund dafür ist also Grund
für die Beschäftigung mit Algorithmen.
Im Allgemeinen ist diese Tatsache, dass
Algorithmen immer mehr Entscheidungen
in unserem Leben übernehmen und vor
allem in sehr verschiedenen Kontexten.
Und die Idee von diesem Tag ist
immer dann Foundation Tag.
Das heißt, wir klären wirklich immer ganz
basic. Woher kommt eigentlich Tobias
in Algorithmen und algorithmischen
Systemen
und
in was für Zusammenhängen ist es
problematisch und wie?
Seit Begriffsklärung diese Abkürzung wird
öfters mal aufkommen das AMS,
das Arbeitsmarktservice in Österreich,
so grobes Äquivalent mit dem Jobcenter
in Deutschland, das heißt, wenn man
arbeitslos ist, kann
man dort hingehen, Arbeitslosengeld
beziehen
kriegt dann
halt potenziell Job Ausschreibungen, auf
die man sich bewerben muss
oder
wo man dann Bewerbungsgespräche haben
muss, damit man
weiterhin die arbeiten, die das
Arbeitslosengeld beziehen kann.
Und es gibt auch die Möglichkeit bzw.
manchmal auch den Zwang
zu
kussen, die man dann besucht.
Ebenfalls kurze Begriffsklärung ein
Algorithmus in dem Zusammenhang
wahrscheinlich in dem Kontext hier
wahrscheinlich relativ unnötig, aber
trotzdem Algorithmus sind eindeutige
Handlungs Vorschrift zur Lösung eines
gegebenen Problems
besteht aus endlich vielen wohl
definierten Einzelschritte.
Die klassischen Beispiele, die uns zum
Beispiel Wikipedia gibt, sind
Kochrezepte.
Soll Sortier, Algorithmen,
Suchalgorithmen und Arbeitsabläufe
dieses schöne Stufen einteilen lassen.
Algorithmische Systeme sind dann Dinge,
die aus mehreren Algorithmen
zusammengebaut sind.
Das sind dann wurden oft von
dem Algorithmus gesprochen wird.
Zum Beispiel Suche Suchmaschinen, so
der Google Algorithmus.
Der Facebook Algorithmus ist nicht einer,
sondern ein Konglomerat aus Algorithmen,
also aus verschiedensten Arbeitsabläufen,
die definiert worden sind.
Irgendwann einmal um ein Problem
abzuarbeiten Einstufung
Systeme dann eben so wie dieses
AMS Modell, dass man uns dann nachher
anschauen,
die
aus einer Menge an Alternativen
gewisse Subjekte raussuchen
und dann halt Einstufungen vornehmen.
Passt passt nicht, gehört in Kategorie
A, B oder C und
Machine Learning Systeme
sind ebenfalls algorithmische Systeme, wo
verschiedene Dinge einfach
zusammenspielen,
um
bei Machine Learning selbst
zu lernen, wie eine Einstufung oder eine
Sortierung vorzunehmen ist.
Ja hier Disclaimer Ja, Algorithmen
sind nicht objektiv, auch wenn es viele
möchten, Technik ist nicht neutral,
Häckchen ist nicht unpolitisch.
Muss man leider immer nur dazu sagen,
denn de facto ist so
Wenn man sich einen Algorithmus baut,
dann hat man
eine Frage, die man klären will.
Man hat dann Arbeit, Arbeit, die man
erledigen möchte.
Man hat irgendwelche Daten, die man
benutzt.
Man baut sich irgendein Modell, eine
Abstrahieren von der Welt,
in der man arbeitet.
Und bei vielen algorithmischen
Systemen kommt man auch nur irgendwo
Visualisierung dazu.
Das ist alles Web belastet.
Wie genau?
Ich spreche dann immer, aber das ist
einfach das, was man sich, was man im
Kopf behalten muss.
Jede Entscheidung, die man trifft, diese
Entscheidung für etwas und
gegen was anderes.
Und da stecken immer Werte dahinter.
Beispielsweise die
Definition von Problem oder der
des Ziels, das man hat.
So Welche Aufgabe soll eigentlich gelöst
werden? Was ist
die Motivation dahinter?
Wessen Anwendungsfall ist und
wer steht im Zentrum?
Da haben wir zum Beispiel Hoppla,
im Fall vom Arbeitsmarktservice.
So welche Aufgabe ist es?
Leute sollen einen Job finden, an
und für sich.
Aber im Fall vom
Arbeitsmarkt ist es nicht diese Sache.
Die Leute sollen einen Job finden,
sondern wir wollen wissen Wie
wahrscheinlich ist es, dass eine Person
einen Job findet in einem gewissen
Zeitraum?
Wessen Anwendungsfall ist es
in dem Fall halt nicht für.
Die arbeitssuchende Personen Ich
möchte den Job finden, sondern für die
betreuende Person, für die
Sachbearbeiterin.
Die Frage
Welche
Ressourcen stellen wir dieser Personen
die Arbeitssucht zur Verfügung?
Und wer steht im Zentrum?
Auch sind wir die Frage Wer ist das
Subjekt? Wer kann eine Aktion setzen?
Wer ist das Objekt?
Über wen wird entschieden?
Und dann haben wir halt immer so dieses
dieses Problem mit den wicked problems.
Die wenigsten Probleme sind
mit
Ja oder Nein zu beantworten, sondern sie
sind sehr viel eher
ja und oder
nein. Aber es gibt.
Es geht sehr oft um Trade offs, um
Optimierung von von verschiedenen
Ansprüchen und Bedürfnissen.
Genau. Also was für Entscheidungen
trifft man eigentlich über wen?
Auf Basis von was für Informationen?
Und was passiert eigentlich
danach? Oder sehen wir das alles
abgeschlossen in einem System?
Beispielsweise dann jetzt eben beim
Arbeitsmarktservice.
Da es darum
wie gesagt,
ähm
einzuschätzen, wie gut die
Chancen für eine Person sind, in nächster
Zeit einen Job zu finden im
österreichischen Arbeitsmarkt.
Jetzt kann man das natürlich dazu nutzen,
um zu sagen Okay, die Person hat folgende
Charakteristika, deswegen
sind ihre Chancen nicht sonderlich gut,
deswegen sollten sie sie entsprechend
unterstützen
oder
irgendwie einen rechtlichen Rahmen
schaffen, damit Diskriminierung gegen
diese Gruppe
schwieriger wird
oder wirklich illegal wird.
Stattdessen wird in diesem
Fall diese diese Information
heran herangezogen, um
zu sagen die Person hat schlechte Chancen
am Arbeitsmarkt.
Wir wollen unser Geld nicht verschwenden
und deswegen kriegt die Person nicht die
guten Kurse zur Verfügung stellt,
sondern die billigen,
die
dann meistens so Sachen sind wie
Bewerbungstraining, auf die eh keiner
Bock hat, weil alle wissen wie es
funktioniert.
Und das hat uns sehr oft auf auf Basis
von von Fakten, die gar nicht änderbar
sind bzw.
auf die wenig Einfluss besteht.
Das heißt, wir bewegen uns hier sehr oft
so in einem Bereich, wo es um Ethik
ginge.
Ähm, wo aber sehr oft nichts
weiter gedacht wird.
Das ist dieses dieser Punkt mit dem
abgeschlossenen System gerade.
Ähm,
die
diese zweite Punkt, die
Kosten-Nutzen-Rechnung.
Es schaut so aus bei diesem System,
als würde die, dass
das Arbeitsmarktservice nur daran
denken, das eigene Geld nicht zu
verschwenden.
Was aber so passiert mit ähm,
mit den Leuten, die eine schlechte
Einstufung kriegen und die deswegen
nicht unterstützt werden bei der
Jobsuche,
das wird komplett außer Acht gelassen.
Also geradezu Auswirkungen wie
schlechtere gesundheitlicher Zustand.
Dann vor
allem um
Entschuldigung
bitten.
Moment.
Also die die langfristigen
gesellschaftlichen Kosten, dass eine
Person dann sich
nicht selber halten kann, sondern eben
Beihilfen beziehen muss, Arbeitslosengeld
beziehen muss, das wird komplett
ignoriert.
Not my department deswegen 29
30 sorry,
schlechter Witz.
Ähm und halt auch so
die Wahrnehmung.
Wenn wenn zu mir gesagt wird, deine
Chance auf Wiedereingliederung in
den Arbeitsmarkt liegt bei
30 prozent,
dann heißt es zwar Ich bin jetzt nicht in
dieser schlechtesten Kategorie gelandet,
aber es bedeutet halt doch 70 prozentige
Chance. Dass das Arbeitsmarktservice Geld
bei mir verschwendet.
Fühlt sich für mich selber auch nicht
sonderlich gut an..
Und zum Thema Feedback Loops
ähm.
Colin Das
Arbeitsmarktservice sagt, dieses
Modell, das Sie benutzen, wird jedes Jahr
aktualisiert werden.
Oder einmal im Jahr kann man dann eine
Aktualisierung vom Modell vornehmen.
Das bedeutet, dass die Dinge,
die
jetzt nachteilig sind,
weiterhin nachteilig bleiben.
Und sagen wir mal
ähm,
sehr absurd. Aber es gibt gewisse Wiener
Wohnbezirk, in denen man schlechtere
Chancen darauf hat, einen Job zu finden.
Und die Tatsache, die es jetzt
halt im Moment so bissl gibt, die wird
dann verstärkt, weil Leute aus
diesem Bezirk schlechteren Unterstützung
kriegen, deswegen schlechte
Arbeit finden und die Information
geht dann wieder rein in das neue Modell
ist dann danach verwendet wird.
Also dieses
negative Feedback
sozusagen
im.
A Genau
das haben wir jetzt gerade gesagt Die
des Arbeitsmarktservice benutzt
historische Daten, also Bestandsdaten.
Bei Algorithmen ist es immer so, diese
Sache. Was für Daten benutzt man
eigentlich?
Nimmt man irgendwas random daher, was man
halt gerade so rumliegen gehabt hat und
es passt so ungefähr?
Oder erfasst man die Daten oder sammelt
die Daten neu, damit man
es richtig zuschneiden kann?
Ähm,
da ist dann halt immer auch wieder so die
Frage Wer erfasst diese Daten?
Woher kommen die?
Warum wurden wurden die überhaupt mal
gesammelt, wenn sie nicht gerade die
spezifischen Daten sind?
Und wie sind die gesammelt worden?
Das steckt auch immer ein gewisser Bias
dahinter. Es ist bekannt zum Beispiel,
dass in Interviews
verschiedene ähm
die gleichen Fragen verschieden
beantwortet werden von derselben Person,
je nachdem wer das Interview führt,
weil
man halt der
Person, mit der man redet,
positiv auffallen möchte.
Man möchte der Person gefallen.
Bei den Messdaten finde ich insofern ganz
spannend die historischen Daten sind
eigentlich ganz praktisch, weil das sind
genau die Daten, die das
Arbeitsmarktservice braucht.
Das sind
ihre eigenen Klientinnen
aus den vergangenen vier Jahren.
Und da hat man sich dann einfach ihre
angeschaut, wie schnell
Menschen wieder einen Job gefunden haben.
Eigentlich sind es genau die richtigen
Daten, aber
bis vor ein paar Jahren hat das
Arbeitsmarktservice nicht einmal so
richtig in TV IT Dingen
unterschieden.
Also so Sachen wie Gamedesign
findet man da drinnen nach wie vor nicht,
meines Wissens nach.
Das heißt, welche Ausprägungen von
Charakteristika gibt es überhaupt?
Warum?
Und welche nicht und warum?
So was ist eigentlich
positiv
belegt, was es negativ belegt warum
würden sich Menschen als etwas einordnen
und als war es nicht?
Äh, ja.
Und dann sind wir beim berühmten Modell,
damit ma was in einem Algorithmus
abbilden kann.
Unsere Welt ist verdammt komplex, das
heißt, man muss es immer runterbrechen
auf gewisse Informationen.
Man muss sich ein Modell bauen und das
bedeutet hat, dass man reduzieren muss.
Und die Frage ist dann halt immer Was
bleibt übrig?
Und das sieht man dann eben beim AMS
Modell. Und das finde ich sehr
sehr spannend.
Also Transparenz technisch
ist dieses Ding super drauf.
Die haben wirklich einen guten Teil
von einem Modell hergeben, das ist
öffentlich verfügbar, immer noch,
obwohl die Diskussion jetzt sicherlich
schon seit September oder sowas
läuft. Die haben es nicht offenlegen
müssen. Finde ich sehr nett.
Wir sehen hier.
Wir fangen an mit einer null
komma zehn ist einfach so..
Dieser Standardwert entspricht einer 52
prozentigen Chance auf
baldige Wiedereingliederung in den
Arbeitsmarkt.
Die Veränderungen sind es spannende.
Ausgegangen wird hier von einer Person,
die nicht weiblich ist.
Die unter 3 ist also
quasi männlich, weil wir haben ja binäres
Geschlecht System gibt ja nichts anderes.
Ähm das heißt wir sprechen
die dieStandard Person in diesem Modell
ist männlich unter 30,
kommt aus Österreich, weil wir haben hier
nur EU und Drittstaaten
als Einflussfaktoren.
Ähm.
Bei der Ausbildung haben wir Lehre
und Matura.
Da stehen
Matura plus, das heißt Lehre.
Das heißt die Person hat das Abi quasi
als Abschluss, hat keine Betreuungs
Pflichten und
dann kommen da noch so Sachen wie das
Ergeiz ist die regionale Stelle,
das heißt da gibt es eine einen
Einteilung in aus
in welcher Regional Stelle ist die Person
quasi Klientin
beeinträchtigt ist
der schöne Ausdruck für Person mit
Behinderung oder oder chronische
Erkrankung
Berufsgruppe
Produktion. Das heißt die STANDARD Person
kommt aus dem Dienstleistungssektor,
hatte viele Beschäftigungslage, weil hier
steht weniger
und die Frequenz von Geschäftsführern
bedeutet wie oft, dass man einen
bestimmten Zeitraum in der Vergangenheit
beim beim Arbeitsmarktservice war
und das kurz oder lang war.
Und die Teilnahme an
Maßnahmen von da vom Arbeitsmarktservice.
Das sind dann eben im Normalfall diese
Schulungen, diese Kurse.
Und was
dann halt wirklich zu einem ziemlichen,
zu einer ziemlichen Diskussion geführt
hat,
ist diese, dass
dieses Ding der Abzug,
weil man weiblich ist und der Abzug
bei der Betreuungs Pflicht da aber de
facto
bei
Männern nicht signifikant
ist.
Das heißt,
man hat da wirklich was passiert ist.
Das Arbeitsmarktservice hat diese
Ausschreibung gemacht für das Modell,
weil sie wollten eben automatisieren, wie
Leute in diese drei Kategorien eingestuft
werden.
Man hat von Finanzmathematik drangesetzt
und die haben sie halt einfach nur
statistische Auswertung macht, was
jetzt grundsätzlich nicht das Problem
ist, wie schon erwähnt habe, sondern es
ist eigentlich ganz spannend.
Das Problem daran ist, dass jetzt eben
auf Basis von diesen statistischen
Daten Entscheidungen
über Einzelpersonen getroffen werden und
gerade so Sachen wie mein Geschlecht oder
ob ich Kinder habe oder nicht oder
ob meine Nationalität nicht
österreichisch ist. Da kann ich nichts
dagegen machen. Das sind lauter Dinge, da
kann ich nichts dagegen machen.
Aber auf Basis dessen
krieg ich als Einzelperson künftig
Unterstützung vom Arbeitsmarktservice
oder nicht?
Das ist das wirklich Problematische
daran.
Ähm, die Ausrede
vom Fonds, also die Ausrede
Entschuldigung, die die
Argumente vom Geschäftsführer,
von vom Arbeitsmarktservice, vom Herrn
Kopf sind dann so klassische.
Dinge wie das System trifft
er keine Entscheidung, sondern macht nur
ein Vorschlag,
weil
die Mitarbeiterinnen werden dann
sicherlich die Arbeit auf sich nehmen und
sagen Ja, nö, die Einstufung finde ich
nicht korrekt. Ich hätte gern einen
Einspruch gemacht. Wo ist denn der
Passierschein A 38 dafür?
Ähm, und das andere
war
dieses Modell, sagt der Kopf ist
tatsächlich positiver eingestimmt den
Arbeitssuchenden gegenüber als die
Mitarbeiterinnen selber bisher.
Ok.
Nett.
Jetzt im Moment vielleicht noch.
Man weiß einfach nicht, wie sich das dann
weiterentwickelt und nicht, dass dieses
dieses bisschen,
diese klassischen Argumente von wegen das
es objektiv, dass es neutral ist es
erinnert. Das macht eh nix.
Speist nicht.
Genau.
Der Link dazu ist dann in den Slides, das
kann man sich dann anschauen, das ist ein
relativ ausführliches Dokument,
kann man sich dann genauer anschauen.
Ähm, und dann sind wir bei der
Visualisierung und das ist auch ein ganz
spannendes Thema. Wir haben keine Ahnung,
wie diese Software ausschaut.
Ähm.
Und bei der Visualisierung findet
man wirklich cool zu Dinge, die
man schon seit
36 Jahren weiß,
dass das, was auf dem Screen landet,
massiv beeinflusst, was gemacht wird.
Klingt jetzt irgendwie wie eine Aussage,
aber in dem Fall gibt es wirklich die die
Erhebung von
mit Seebeben.
Das war das Flugbuchung System,
wo man eben gemessen
hat, dass 50
prozent der Buchungen auf das erste
Ergebnis fallen und 92 prozent auf den
auf der ersten Seite Ergebnisse auf der
ersten Seite.
Das hat dazu geführt, dass
die Fluglinien,
die große Anteile gehalten haben, bei
Kabel alles getan haben, um auf dieser
Seite zu landen, auch wenn es nicht ganz
korrekt war.
Das heißt, man hat auch Verbindungen, die
nicht die idealen Verbindungen waren auf
der ersten Seite angezeigt, damit die
gebucht werden.
Ähm, ja
genau. Und was mehr zu
dem Thema passt, ist dann
die Arbeit von Bettina Behrendt
und Sören Priebus, die haben sie
angeschaut.
Also ähm,
the Making,
das eigentlich verschiedene Darstellung
von Entscheidungs
Vorschlägen und den Kopf
zu referenzieren,
was diese verschiedene Visualisierung
eigentlich macht.
Und zwar haben sie dann halt
ähm
ein Experiment durchgeführt, wo sie
sichtbar gemacht haben oder auch nicht.
Was für diskriminierende Charakteristika
einen Einfluss auf diese Bewertung von
von ähm
Credits Bewerbungen gehabt haben.
Und sie haben halt dann die Probandinnen
im Experiment auch drum gebeten zu
erklären, wie sie zu ihrer Entscheidung
gekommen sind, was sie dann tatsächlich
von diesem
Entscheidungsprozess miteinbezogen
haben in ihre eigene Entscheidung.
Also inwiefern sie dann sich
an die Vorgabe gehalten haben vom
System und inwiefern sie daran
widersprochen haben und andere
Entscheidungen getroffen haben.
Und das ist tatsächlich sehr praktisch.
Und was wirklich, wirklich Wichtiges,
ähm, das ist was.
Das muss man sich genauer anschauen, aber
die Information haben wir im Moment
nicht.
Wie das ausschauen wird?
Das Modell vom Arbeitsmarktservice
mit diesem
Mann ist da.
Das soll ab 2019
unverbindlich benutzt werden und ab 2020
dann verbindlich.
Soweit ich weiß, hat es bisher
schon diese Einstufung in die drei
Kategorien gegeben, aber das war sehr
viel mehr, quasi dem Gefühl von der
Sachbearbeiterin überlassen,
die natürlich auch wissen
Lebenslauf hat halt gewisse Lücken oder
auch nicht einschätzen können, wie
Human Resources Personen auf
gewisse Bewerbungen reagieren.
Und jetzt wird das Ganze halt quasi
automatisiert.
Was damit auch passiert
ist
halt also gewisse Distanzierung von
der von der Klientin.
Die Sachbearbeiterin gegenübersitzt
so dieses Jahr.
Sie sagen eh ganz sympathisch, aber der
Computer sagt Na
sind
halt Dinge, die.
Mit gutem Grund befürchtet werden.
So genau
über diese Take Home Messages
ähm,
ihre
Algorithmen sind da und sie machen Dinge
ist die Hälfte von diesen Sachen
lassen sich leider nicht anwenden auf
dieses Animate Modell.
Weil was anderes benutzen ist irgendwie
als arbeitslose Person in Österreich
schwierig, weil wenn man nicht
zum Arbeitsmarktservice geht, dann kriegt
man halt kein Arbeitslosengeld.
Ähm, also für
für Arbeitssuchende selber.
Für die Leute, die beim beim
Arbeitsmarktservice arbeiten, ist es auch
ein bisschen schwierig. Die können es
auch nicht nicht nutzen.
Ähm, das hetzen ist dann so
dieses Thema. Ja Game, das System, wie
kann man das genau machen, wissen wir
derweil auch nicht, solange man
sich das eben nicht genauer angeschaut
hat.
Und ähm
genau die lockig Lösung wäre in dem Fall
eigentlich eher eine Notlösung und
dieses Modell eher in einem anderen
Bereich zu nutzen, eben
für die
Förderung von Personen, die
Diskriminierung erfahren, oder?
Ähm.
Um.
Sind wir mal in der Infrastruktur, was zu
verhindern war also der einzige
Grund jetzt nicht, aber ein guter Grund,
warum Betreuungs Pflicht einen Abzug
darstellen ist, weil Menschen die
andere Leute betreuen müssen,
nicht die Zeit haben um einen Vollzeitjob
auszuüben und
oder das Risiko mitbringen
auszufallen.
Wenn das Kind krank wird, wenn
die pflegebedürftige Person
irgendwie plötzlich
mehr Pflege braucht.
Und da können wir zum Beispiel
infrastrukturell ansetzen.
Mehr Betreuungsplätze zum
Beispiel.
Ähm.
Und beim irgendwie selbst verbessern.
Ja, das ist halt so. Dieses klassische
das System von innen heraus verändern
ist schwierig, würde jetzt mal behaupten.
Ja, ziemlich schnell.
Ähm, genau, ihr findet mich
auf Mastodon. Ihr könnt mich per E-Mail
kontaktieren, auf Twitter bin ich auch.
Ähm, die Slides
würde dann ins Grab werfen.
Dann sind sie auch für alle verfügbar.
Und jetzt ist noch jede Menge Zeit für
Cuenca.
War zu schnell.
Sorry, kein Problem.
Erst mal haben wir mehr Zeit für Applaus.
Direkt danach.
Ihr findet links und rechts die Mikrofone
und. Wie gesagt, im Chat Kanal
gibt es Fragen aus dem Publikum.
Nun geht jemand zum
Publikum ins Mikrofon
Hallo!
Hey ähm, ich hab
die Frage von wegen selber
irgendwas verbessern, ob
du vielleicht weißt ähm,
wenn ich jetzt konkrete Fragen habe
bezüglich dieser Implementierung,
weil das ist ja eine öffentliche
Stelle öffentliche Dienstleistung.
Wo kann ich hingehen mit diesen Fragen
und sagen Tschuldigung, wie habt
ihr das validiert?
Oder
ich hätte diese Liste an Fragen
wer muss die beantworten und kann die mir
jemand beantworten?
Eine hervorragende Frage war Das Problem
ist doch, dass das Arbeitsmarktservice
keine komplett staatliche Stelle mehr
ist, sondern ihr seid
keine Ahnung wann
genau.
Keine profitorientiert ist,
darüber kann man diskutieren.
Ähm ich glaube am ehesten würden
würden es sowas dann ansiedeln?
Vermutlich.
Also ich würds mit einer mit einer
Anfrage befragten Stargate probieren.
Uns.
Sozialministerium, Sozialministeriums
Sind Sie für Arbeit, Soziales, Arbeit
und Dings? Ich würde es am liebsten
dorthin werfen und
ansonsten
von der futurezone aus ist der Herr Kopf
schon relativ gut gebe
malträtiert worden.
Vielleicht wissen die da auch noch mehr
oder haben den Kontakt grundsätzlich.
Meiner Meinung nach wäre es auch eine
gute Anwendung für
Public Money Public Code.
Aber wir reden von Österreich.
Ja danke, danke
dir.
Dann einmal die Frage auf der von mir
linken Seite bitte.
Also bezüglich der
Form ich weiß natürlich jetzt nicht,
wofür das F steht, ob es einfach nur eine
Summe ist oder ob dann noch irgendwie
ein anderer Machine Learning Algorithmus
ist. Aber in der klassischen Statistik
würde man ja nun mit allen
Variablen trainieren, die
Bias erzeugen, die man nicht
drin haben möchte, wie zum Beispiel
Geschlecht. Und da ist dann beim belegten
Predigte dann einfach rausnehmen
sozusagen.
Und gibt es da.
Irgendwie weiß man, warum sie die
Variable letztendlich drin gelassen
haben, was man klassischerweise ja
eigentlich verboten ist.
In der Versicherungsbranche.
Ähm, de facto.
Also mein
Tipp einfach mal in dieses Modell
reinschauen, weil die haben das ja
Dokument also ziemlich exakt exakt
dokumentiert, was sie gemacht haben.
Grundsätzlich würde ich sagen
ähm,
die Erklärung vom Geschäftsführer
war
Wir
können nichts dafür. Das ist der
Arbeitsmarkt.
Also was er gemacht hat.
Also dieses Wir bilden hier nur
ab, was die Personalverantwortlichen
machen und deswegen sind wir nicht
schuld, wenn es diskriminierend ist.
Die dann finden
dort auf der Seite noch eine Frage.
Hallo?
Gibt es ähnliche Systeme in anderen
Ländern und hat man da vielleicht schon
mehr Erfahrung? Was denn zum Beispiel in
diesen Korrekturleser passiert, wenn
das Modell aktualisiert wird?
Das einzige, was jetzt so vom zeitlichen
Rahmen her ähnlich passend gepasst
hätte und thematisch war dieses
Bewerbungs Verfahren bei Amazon.
Das kann man sich so vorstellen Amazon,
so großer Cloud und bla und wir wissen
das mit Computern, wie das funktioniert.
Die sind dann draufgekommen, dass sie
ihr System deshalb wirklich
vollautomatisiert war.
Nicht statistisch wie hier.
Deren System hat sich darauf trainiert,
alles was irgendwie weiblich konnotiert
ist abzuwerten.
Die haben dann gesagt okay, dann lass man
es lieber und machen das alles wieder
manuell.
Und das ist in Österreich, wo
wir jo, Österreich
denkt sicher wir machen das jetzt, wir
kennen uns super aus.
Also ich wüsste von keinem anderen
Fall wo jemand her gegangen ist und so
was allen ernstes machen wollte
und es dann durchgezogen hat.
Grad nach den
Erkenntnissen und dann den
Fake Points der letzten Jahre.
Danke, nein.
Ja, vielleicht kann man da noch ergänzend
sagen solche Sachen sind ja leider häufig
in Test Projekten werden
in verschiedensten Bereichen ich fand an
dem Tag wunderbar, dass man hier sehen
konnte, was Biers ist, wie er entsteht.
Und eigentlich jeder der so
Technikfolgenabschätzung vielleicht in
seinen Firmen irgendwo machen muss,
nimmt sich bitte mal dieses Beispiel zur
Brust und guckt was passieren kann.
Durch solche Geschichten, weil auch sei
es Call-Center oder andere Bereiche, wird
genau so was passieren.
Und genau an solchen Stellen passiert
dieser Bias.
Sind noch Fragen aus dem Internet.
Falls nein, noch mal einen herzlichen,
herzlichen großen Applaus für
Pascal, oder?
Und wie gesagt, das sind die Vorträge,
die einen vielleicht jetzt nicht
irgendwie so nach himmelhochjauchzend
irgendwie nach oben ziehen, aber sie
nehmen die wichtigen, weil sie bitte
einfach mal mitnehmen in eure tägliche
Arbeit, weil ihr die ihr programmiert,
ihr, die, wie heißt es in Firmen
teilweise für solche Sachen
verantwortlich sind.
Nehmt das bitte mit rein, halte es im
Hinterkopf und
wenn ihr am Tisch seid, dann sagt auch
entsprechend war es mal.
Dafür lernt ihr hier auch mal Sachen
jenseits des Tellerrand.
Ist okay.
Dann guten Abend noch.