FINLANDS SJÖFART ■ SUOMEN MERENKULKU 11 Diskussionen om AI i arbetslivet fokuserar ofta på frågan om tekniken kommer att ersätta människan. Inom sjöfarten är den viktigare frågan sannolikt ändå hur AI används på ett säkert och ansvarsfullt sätt och med beaktande av arbetstagarens rättigheter. Det handlar inte bara om ett nytt tekniskt verktyg, utan också om huruvida man har en tillräckligt god förståelse för det ansvar, de risker och de begränsningar som användningen av AI medför. ANSVARET ÖVERFÖRS INTE TILL ARTIFICIELL INTELLIGENS Som konstaterats har användningen av artificiell intelligens snabbt blivit en del av arbetsplatserna. AI används för att utforma texter, översättningar, utkast till rapporter och ibland till och med som stöd för beslutsfattande. Det finns mycket positivt i denna utveckling, men ur en jurists perspektiv finns det också en central grundläggande sak som lätt glöms bort: ansvaret överförs inte till AI. AI är inte en juridisk aktör. Den har inget eget ansvar och inga skyldigheter. Därför ligger ansvaret för användningen av AI alltid kvar hos den i vars namn ärendet förs vidare, oavsett om det är fråga om en arbetstagare eller en arbetsgivare. Om ett beslut grundar sig på information som AI har producerat är det inte informationens ursprung som är avgörande, utan vem som har godkänt och använt den. I sjöarbetet är detta direkt kopplat till det ansvarssystem som redan är tydligt. Befälhavaren har det övergripande ansvaret för fartyget och för att det drivs på ett säkert sätt. Detta ansvar kan inte överföras eller delas med AI. Vakthavande befäl ansvarar för sina beslut under vakten, och även i hans eller hennes fall bedöms om agerandet har varit omsorgsfullt och professionellt. Om AI används exempelvis vid rapportering, planering eller utarbetande av instruktioner förändrar detta inte ansvarsförhållandena på något sätt. Samma sak gäller säkerhetsledningen. Varje anteckning, rapport och åtgärd har betydelse. Om AI används för att ta fram sådant material är den endast ett verktyg. Ansvaret för att innehållet är korrekt och motsvarar fartygets faktiska verksamhet ligger fortfarande hos människan. Ett konkret exempel gör situationen tydlig. Föreställ dig att det inträffar en säkerhetsavvikelse ombord och att en rapport ska upprättas. Arbetstagaren använder AI som hjälpmedel och matar in en beskrivning av händelserna. AI formulerar snabbt och smidigt en rapport, men utelämnar ett väsentligt skede i händelseförloppet eller tolkar situationen fel. Arbetstagaren godkänner rapporten utan att noggrant kontrollera den och skickar den vidare. Senare upptäcks att rapporten är felaktig. I denna situation försvinner ansvaret inte på grund av att texten har producerats av AI. Bedömningen riktas mot om arbetstagaren har uppfyllt sin egen omsorgsplikt. Samma logik gäller i alla situationer där AI används. Det finns redan exempel på situationer där personer i relativt höga befattningar har skickat AI-genererat material i eget namn utan att läsa igenom det ordentligt. När innehållet senare har uppmärksammats har man hänvisat till att skribenten inte ”menade det” eller ens ”sade något sådant”. Hur ska man förhålla sig till detta när ett motsägelsefullt eller felaktigt uttalande ändå finns i ett e-postmeddelande som personen själv har skickat? När ett dokument, meddelande eller en rapport skickas i eget namn är man ansvarig för dess innehåll, oberoende av vem eller vad som ursprungligen har producerat texten. Detta understryker betydelsen av yrkesskicklighet på ett helt nytt sätt. AI kan underlätta arbetet och spara tid, men det eliminerar inte behovet av att förstå innehållet och kontrollera att det är korrekt. Tvärtom kan man säga att ju enklare det blir att producera text, desto viktigare blir förmågan att bedöma vad man faktiskt håller på att godkänna. DEN STÖRSTA JURIDISKA RISKEN: SEKRETESSBELAGD INFORMATION Den största juridiska risken med användningen av AI är egentligen inte att AI gör fel, utan vilken information man ger den. Detta är något som många i praktiken inte tänker på. AI används i vardagen snabbt och naturligt, ungefär på samma sätt som om man skrev anteckningar eller gjorde ett utkast för sig själv. I verkligheten är situationen dock en helt annan. När information matas in i en öppen AI-tjänst handlar det inte om ett internt arbetsverktyg, utan om en extern tjänsteleverantör. I praktiken innebär detta att den information som matas in kan lagras i tjänsteleverantörens system. Användaren ser inte denna process och det känns inte som någon särskild åtgärd, men juridiskt handlar det om att information lämnas utanför organisationen. Dessutom måste man vara medveten om att den information som matas in kan komma att användas av tjänsteleverantören för utvecklingsändamål. Många öppna AI-tjänster använder insamlat material för att förbättra tjänsten och utveckla modellerna. Ur användarens perspektiv är detta ofta oklart, men i praktiken innebär det att information som en gång har matats in inte längre är helt under användarens kontroll. Informationen kan bli en del av ett större utvecklingsmaterial, och det är inte möjligt att exakt kontrollera hur den senare används eller vem som kan få tillgång till den. Saken blir särskilt problematisk eftersom arbetsgivaren ofta inte vet vilken information arbetstagarna matar in i AI. Situationen kan uppstå helt i god tro. Arbetstagaren vill göra en rapport tydligare, ber om hjälp med en översättning eller söker hjälp med en besvärlig skriftlig situation. Samtidigt kan hela dokument eller delar av dem kopieras in i AI utan att man stannar upp och funderar över vilken information dokumenten faktiskt innehåller. Ur informationssäkerhetssynpunkt innebär detta en betydande risk. AI är inte ett system som arbetsgivaren har kontroll över på samma sätt som exempelvis ett internt informationssystem. När information överförs via en sådan extern tjänst uppstår en risk för att konfidentiell information sprids på ett sätt som inte är avsett eller tillåtet. Risken är inte teoretisk, utan mycket konkret, eftersom information ofta matas in mitt i vardagens brådska utan någon djupare eftertanke. I praktiken syns detta i många situationer som vid första anblicken verkar ofarliga. En arbetstagare kan exempelvis mata in en intern rapport i AI och be den sammanfatta innehållet. Då har hela rapportens innehåll, inklusive eventuella personuppgifter, säkerhetsobservationer eller operativa detaljer, redan överförts till en extern tjänst. I en annan situation används AI för att förbättra en egen text, och samtidigt bifogas bilagor eller bakgrundsinformation som innehåller konfidentiellt material från arbetsgivaren. Ofta kan ett sådant utlämnande av information även omfatta information som klassificeras som företagshemligheter. Problemet ligger just i att överföringen sker så lätt och omärkbart. Att skriva in något i AI känns inte på samma sätt som att exempelvis skicka ett dokument till en extern epostadress, även om slutresultatet juridiskt kan vara mycket
RkJQdWJsaXNoZXIy MjU0MzgwNw==