Experiment used Elon Musk's OpenAI framework - no wonder he's so down on AI.
In a keynote demonstration at the DEF CON hacking convention Hyrum Anderson, technical director of data science at security shop Endgame, showed off research that his company had done in adapting Elon Musk’s OpenAI framework to the task of creating malware that security engines can’t spot.
The malware-tweaking machine-learning software was trained over 15 hours and 100,000 iterations, and then lobbed some samples at an antivirus classifier. The attacking code was able to get 16 per cent of its customized samples past the security system’s defenses, we're told.
Eddig is úgy festett az informatikai biztonság világa, hogy jöttek az egyre jobb ötletek a betörők részéről, majd a védelem igyekezett ellenszert találni. A múlt héten írtam az IBM kezdeményezéséről ( http://www.scoop.it/t/cio-by-pal-kerekfy/p/4083280572/2017/08/21/bringing-the-power-of-watson-and-cognitive-computing-to-the-security-operations-center-soc ), hogy a Watsonnal akarnak javítani a megtörtént támadások felderítésén.
Az ebben a cikkben leírt kísérletben az intelligens támadó százezer változattal mérte fel az antivírus szoftver képességeit, erre csak 15 órára volt szükség, majd 16%-os sikert ért el a támadásban. 16% nem tűnik soknak, de egy konkrét esetben csak egy támadásnak kell sikeresnek lenni, hogy bejusson a támadó!
Csodálkozunk, hogy Elon Musk aggódik???
A következő lépés az lesz (és erről nem szól a cikk), hogy a mesterséges intelligencia szoftver magában a megcélzott rendszerben működve fejleszti az újabb és újabb támadó kódokat. Izgalmas lesz! Eljutunk talán a filmekben látott jelenetekhez, amikben a hálózat belsejében üldözi egymást a támadó és a védekező (csak már nem emberek, hanem robotok).
#EndGame #OpenAI #Musk #antivirus #malware #AI #security @endgameinc