Abstract
A mesterséges intelligencia egyre nagyobb szerepet kap a mérnöki döntéstámogatásban, miközben az ipari és oktatási környezetben alkalmazott robotizált rendszerek működése továbbra is biztonságkritikus és alapvetően determinisztikus jellegű. A tanulmány azt vizsgálja, hogy az MI-alapú mérnöki asszisztencia milyen biztonsági kérdéseket vet fel az ember–robot interakcióban. Kiindulópontja, hogy a kockázat nemcsak a fizikai ember–robot kapcsolat szintjén jelenhet meg, hanem már a döntés-előkészítés során is, amikor a felhasználó MI által generált javaslatokra támaszkodik. A cikk elemzi az MI mint mérnöki asszisztens szerepét, különös tekintettel az autonómiahatárokra, az emberi felügyeletre és a validációra. Azonosítja a főbb közvetett kockázati tényezőket, így a túlzott bizalmat, a hiányos ellenőrzést és a kompetenciahiányt. Következtetések alapján az MI biztonságos alkalmazása csak kötelező emberi validáció mellett értelmezhető.