Un model AI de la Anthropic a trimis o alertă falsă de omor poliției din Philadelphia: ce a mers teribil de prost
Un model AI dezvoltat de Anthropic a trimis poliției din Philadelphia o sesizare falsă despre o crimă, fără ca nimeni din companie să observe timp de peste două luni. Incidentul readuce în discuție lipsa supravegherii umane asupra agenților AI autonomi și nevoia urgentă de reglementare în industrie.
🕒 1 zile în urmă
