Geoffrey Hinton schlägt vor, KI-Produkte vor ihrer Veröffentlichung von einer Aufsichtsbehörde prüfen zu lassen. Im Podcast „Smart Girl Dumb Questions“ verglich der Informatiker das mit Medikamenten, für die Anbieter in den USA eine Zulassung der FDA brauchen.
Hinton sagte, eine solche Prüfung könne rund eine Milliarde US-Dollar kosten – und solle dennoch das Mindeste sein. Er warnt, KI könne sich zunehmend selbst verbessern und dadurch schneller leistungsfähiger und gefährlicher werden. Die US-Regierung setzt laut Bericht stattdessen auf Selbstverpflichtungen der Branche; ob sie Hintons Vorschlag aufgreift, ist offen.
Warum es wichtig ist
Für KI-Unternehmen könnte Hintons Vorschlag bedeuten, dass sie vor einer Veröffentlichung Sicherheitsprüfungen durchlaufen müssten; ob daraus in den USA eine verbindliche Regel wird, ist unklar.
