OpenAI hat das Konto eines Ingenieurs gesperrt, der ein mechanisiertes Robotergewehr mit ChatGPT-Steuerung erfolgreich gebaut hat. OpenAI hat den Zugang für den Entwickler eines KI-gesteuerten Waffensystems gesperrt. Der Ingenieur, der im Internet nur als STS 3D auftritt, hat ein ChatGPT-sprachgesteuertes Robotergewehrsystem entwickelt und ein Video dazu veröffentlicht. Das Unternehmen verwies auf eindeutige Verstöße gegen seine Nutzungsrichtlinien, insbesondere gegen das Verbot der Entwicklung von Waffen unter Verwendung seiner KI-Technologie, wie The Byte berichtet. Der Entwickler hatte eine Plattform entwickelt, die das Sprachmodell von OpenAI nutzt, sodass die Waffe auf verbale Befehle reagieren und ihre Ausrichtung entsprechend anpassen konnte. Eine Zielerfassung war noch nicht enthalten. Ein Demonstrationsvideo, das auf Social-Media-Plattformen kursierte, zeigte, wie das System Schießbefehle auf der Grundlage von Eingaben in natürlicher Sprache ausführte. Dabei gab er beispielsweise vor, dass sich die Waffe in einem bestimmten horizontalen Radius bewegen und in einem Zick-Zack-Muster feuern soll. Kurz vor Weihnachten veröffentlichte STS 3D auch noch ein Video, bei dem eine simple Webcam und das Vision-System von OpenAI mit einer einfachen Farberkennung einen Luftballon erkennen und die Waffenstation darauf ausrichtete.
via golem: ChatGPT-Robotergewehr führt zu sofortiger Kontosperrung