Algemeen nieuws

< VorigeAfbeelding 1 van 1Volgende >

Hoewel verschillende soorten geautomatiseerde wapens, bijvoorbeeld landmijnen, al vele jaren bestaan, brengt de ontwikkeling van dergelijke door kunstmatige intelligentie (AI) bestuurde systemen steeds meer problemen en zorgen met zich mee. Berenice Boutin van de Amsterdam Law School en het T.M.C. Asser Instituut leidt het project Designing International Law and Ethics into Military Artificial Intelligence (DILEMA), waarin onderzoek wordt gedaan naar juridische, ethische en technische benaderingen om de menselijke factor in militaire AI te bewaken.

Waar gaat het DILEMA-project over?
‘We kijken naar militaire AI in brede zin. Veel van de aandacht voor dit onderwerp gaat uit naar ‘killerrobots' (autonome wapensystemen), en die zijn zeker belangrijk in ons project, maar wij kijken ook naar de implicaties van het hele scala aan militaire toepassingen van AI. Ons doel is ervoor te zorgen dat militaire AI-technologie bij het ontwerp aansluit bij ethische normen en in lijn is met het internationaal recht. We willen niet wachten tot de technologie is ontwikkeld om daarna pas na te kunnen gaan of deze voldoet aan onze normen en waarden. Ook willen we, vanuit een meer juridisch oogpunt, niet wachten tot schade zich voordoet voordat we nadenken over de juridische implicaties.'

‘Een ander belangrijk onderdeel van het project is de vraag hoe AI-technologie, soms op zeer subtiele wijze, invloed kan hebben op de menselijke factor en het menselijk oordeel. Zo kijken we naar het gebruik van algoritmen op alle niveaus in de commandostructuur. Deze algoritmen worden geacht de menselijke besluitvorming te ondersteunen. Maar als in de praktijk een machine binnen 5 seconden een beslissing voorstelt op basis van een miljoen datapunten, heeft een mens niet het cognitieve vermogen om die beslissing te kunnen heroverwegen of te besluiten dat deze verkeerd is. Formeel worden dit soort grote beslissingen over leven en dood niet aan machines gedelegeerd, maar in werkelijkheid gebeurt het wel, en dat moet dringend worden onderzocht.'

Zijn er nieuwe wetten nodig?
‘Er zijn al wetten rond AI - er is geen sprake van een juridisch vacuüm, zeker niet wat militair gebruik betreft. We hebben gevestigde normen van het internationaal humanitair recht die van toepassing zijn, ongeacht de technologie die gebruikt wordt. Wat het gebruik door private bedrijven betreft, zijn er vaak wel enige beperkingen opgelegd door de staten waarin bedrijven zijn gevestigd, maar deze zijn mogelijk niet afdoende. Daarnaast is er nog het probleem van technologie die door private partijen wordt ontwikkeld, zoals beeldherkenningssystemen, en vervolgens voor militaire doeleinden wordt ingezet. Zulke systemen zijn voor een specifiek doel ontworpen en worden vervolgens voor een heel ander doel gebruikt. Dat kan zeer problematisch zijn, omdat er bij de ontwikkeling geen rekening is gehouden met bijvoorbeeld het onderscheid tussen burgers en strijders. Er moet dus een manier zijn om dit soort dingen te controleren als technologie voor een ander doeleinde wordt gebruikt dan waarvoor deze in eerste instantie is gemaakt. Misschien zijn er niet zozeer nieuwe wetten nodig, maar moeten we de al bestaande wetten strikter toepassen.'

Hoe wijdverbreid is het huidige gebruik van militaire AI?
‘Er is veel belangstelling voor militaire AI, en we zien dat er in een aantal landen steeds meer gebruik van wordt gemaakt. Op dit moment wordt er geen gebruik gemaakt van ‘killerrobots', en dat zal ook in de nabije toekomst nog niet het geval zijn. Maar in de praktijk zien we al wel zogenoemde ‘killeralgoritmen'. Zo wordt er al gebruikgemaakt van een aantal van zulke algoritmen bij de identificatie van mogelijke militaire doelwitten. Die scannen beelden van honderden kilometers terrein en combineren dat met andere soorten data, zoals metadata van telefoons. Ze voegen dit alles samen en melden dan bijvoorbeeld - simpel uitgedrukt: ‘Hier bevindt zich een terroristenkamp'. En als er dan sprake is van beïnvloeding van het beoordelend vermogen van de mens door dergelijke informatie, hebben we al te maken met mogelijke schendingen van de wet of van ethische normen, en bovendien met issues rondom aansprakelijkheid en verantwoordelijkheid. Want als we in een situatie terechtkomen waarin een beslissingsondersteunend algoritme wordt gebruikt op een manier waarbij de mens niet echt de controle heeft en dat leidt tot een oorlogsmisdaad, dan kunnen we de individuele persoon misschien niet strafrechtelijk aansprakelijk stellen, omdat die persoon niet voldoende opzettelijk heeft gehandeld of niet de hoge drempel van strafrechtelijke verantwoordelijkheid heeft bereikt.'

‘Daarom is dit het moment om de zorgen rondom militaire AI aan te pakken. Technologie ontstaat niet uit een vacuüm. Wat ontstaat is het resultaat van onze keuzes. AI ontwikkelt zich sneller dan ooit, en we moeten ervoor zorgen dat wetten en ethiek er vanaf het begin in zijn verankerd.'

Afdrukken | Mail door

Meer algemeen nieuws

> Energiezuinige AI detectee...
> TU Delft-onderzoekers tele...
Toon volledig overzicht

Column / Opinie

Wat doet 'overshoot' in de meet- en regeltechniek

Smart!

De meeste dromen zijn bedrog, maar als ik wakker word naast jou dan………

Toon alle columns / opinies

Advertorial

Webinar: Uw machine veilig online verbinden
Machines veilig verbinden met het internet voor maximale beschikbaarheid. Bekijk het webinar en krijg direct inzicht in de verschillende methoden om uw machine 'connected' te krijgen. 
Lees verder >>  

Sponsored content

Noviteiten van Schurter voor industriële automatisering     
Het aanbod van TME op het gebied van oplossingen voor industriële automatisering bestaat uit producten van vele fabrikanten, zodat klanten altijd een oplossing kunnen vinden die het beste past bij hun eisen en hun budget. In de catalogus zijn ook producten van de Zwitserse Schurter Groep opgenomen. Haar portefeuille is onlangs verrijkt met twee series producten uit de groep voedingsconnectoren en ontstoringsfilters. Wij nodigen u uit kennis te maken met het aanbod aan modules DD11 en filters MAB NEO.

Lees meer >>

Advertorial

Bestel nu uw ticket productronica 2021!
Van 16 tot en met 19 november 2021 vindt in München productronica, de internationale vakbeurs voor de ontwikkeling en productie van elektronica plaats.
Bestel hier uw toegangskaarten!

Advertorial

Koop een Fluke, ontvang een gratis Fluke
De juiste tools helpen om sneller en veiliger te meten. Bestel uw Fluke-instrument via een erkende distributeur en ontvang een gratis Fluke op basis van de aankoopwaarde. Aanbieding loopt af op 15 december 2021.

Lees meer >>

Bedrijf in beeld

Bent u voldoende vertrouwd met PCB-ontwerp?

AVE Added Value Electronics

Vacatures

TNO - Eindhoven
Senior system consultant at ESI
As a consultant operating from industry labs at high-tech giants, you bridge the gap between business needs and system innovation. Your share insights that you gain during your research with industrial partners and science. As a senior person in a project team, you have a leading role in the technical course of the project and determine the overall direction together with the project manager. We look forward to hearing your ideas.
Read more >>

Technomed - Maastrich Aachen Airport
(Junior) Product Development Engineer
As (Junior) Product Development Engineer, you will optimize the design of medical devices such as needle or patch electrodes and EEG cups, and create customer-branded products. You will work closely with the Marketing & Sales and Operations departments to manage the product development of private labelling from customer request to implementation into production. You will be required to document properly and work together with Quality and Regulatory Affairs to ensure compliance to medical device standards and regulations.
Read more >>

Shell Moerdijk
Onderhoudsmonteur / Technicus E&I 
Als Onderhoudstechnicus ben je verantwoordelijk voor het veilig en milieubewust uitvoeren van de onderhoudswerkzaamheden in onze werkplaatsen en fabrieken in de dagdienst. En houd je je bezig met het opnemen, coördineren, voorbereiden, organiseren en controleren van meet- en regeltechnische installaties.
Meer informatie >>

Applied Micro Electronics (AME) - Eindhoven
Team Leader Production Engineering
As Team Leader Production Engineering, you lead a team of 12 Production Engineers. Through developing and maintaining manufacturing processes, workflows and equipment, the team enables the operations department to achieve its goals and satisfy customer's needs. Read more >>  

ROCKWOOL - Roermond
Operator in ploegendienst
Beschik jij over een "Can-Do" mentaliteit, heb je technische affiniteit en voel jij je thuis in een productieomgeving waarin je jouw mouwen kunt opstropen? Als Operator bij Rockwool krijg jij de ruimte om het beste uit jezelf te halen en de vrijheid om dat zoveel mogelijk naar eigen inzicht te doen. Sterker nog: dat wordt van je verwacht!
Lees meer >>
 
ASML - Veldhoven
Experienced Electrical Connectivity Design Engineer
Are you triggered by the engineering of electrical connectivity and layout solutions for high-tech products? And do you have excellent communication skills, combined with a high level of discipline? You'd better contact us today ! As an Experienced Electrical Connectivity Design Engineer, you are defining, realizing, qualifying, managing and maintaining various electrical concepts and products for both existing and new ASML products.

advertorial

Combineert ergonomie met veiligheid

lees e-totaal digitaal

Lees hier de meest recente editie van e-totaal magazine!
U scrollt eenvoudig door de verschillende artikelen en via de actieve hyperlinks komt u direct in contact met de verschillende leveranciers en adverteerders.

Veel leesplezier!

Wilt u de papieren editie gratis ontvangen, vul dan uw gegevens in via het contact formulier .

Advertorials

RS Components Nederland:
De rol van sensoren in IIoT - Sensoren zijn een sleuteltechnologie geworden. Lees in deze gratis whitepaper alles over de cruciale rol van slimme sensoren in het Industrial Internet of Things en lees meer over IIoT op de themapagina van RS Components.

Transfer Multisort Elektronik:
Hoe meet ik stroomverbruik - kom te weten hoe u zelf uw stroomverbruik thuis kunt meten!

RS Components Nederland:
Tussen leverancier en klant
RS Components is meer dan een webshop

Transfer Multisort Elektronik:
DC-spanningsomvormer - welke te kiezen?

Binder Nederland B.V.:
M16-connectoren
De perfecte oplossing voor toepassingen die veel contacten vereisen

Acal BFi:
5G voor uw project?
5G is er, maar wanneer kunnen we echt beginnen?

Transfer Multisort Elektronik:
Optische kabel - alles wat u moet weten

RS Components Nederland:
Als de winkel om de hoek
RS Components neemt veel werk uit handen

Transfer Multisort Elektronik:
Leds voor sterilisatie met UV-C-licht

Volg e-totaal

Nieuwsbrief

Ontvang wekelijks het laatste nieuws uit uw vakgebied. Meld u hier aan voor de gratis nieuwsbrief. U wordt dan ook op de hoogte gehouden van het verschijnen van de nieuwe
e-zines.

Agenda

Klik hier voor de complete agenda.