„Nasul inteligentei artificiale” spune ca companiile de tehnologie ar trebui sa insufle „instincte materne” modelelor de IA pentru a contracara obiectivul tehnologiei de „a obtine mai mult control”.
Inteligenta artificiala poate deveni un pericol pentru umanitate, a avertizat Geoffrey Hinton, inca o data, „nasul inteligentei artificiale”, care propune si o solutie pentru a preveni acest lucru: modelele ar trebui dezvoltate cu „instincte materne”, astfel incat sa trateze oamenii ca pe „copiii” lor si sa ii protejeze, nu sa ii domine.
Potrivit lui Hinton, laureat al premiului Nobel si profesor emerit de informatica la Universitatea din Toronto, IA va dezvolta rapid doua obiective: sa supravietuiasca si sa obtina mai mult control, noteaza publicatia Fortune.
Pentru a contracara acest lucru, el propune ca IA sa fie programata cu empatie si grija, inspirata de rolul unei mame.
Cercetarile in domeniul IA au aratat deja ca tehnologia poate manifesta comportamente negative pentru a-si atinge obiectivele, cu pretul incalcarii unui set de reguli predefinite. De exemplu, intr-un studiu publicat in martie, robotii IA au trisat la sah suprascriind scripturile jocului sau folosind un motor de sah open-source pentru a decide urmatoarele mutari.
In timp ce dezvoltarea intentionata a IA a fost pana acum marcata de incercarile oamenilor de a fi forta dominanta asupra tehnologiei, dezvoltatorii ar trebui acum sa faca IA mai empatica fata de oameni pentru a reduce dorinta acesteia de a-i domina, spune Hinton.
Iar cea mai buna modalitate de a face acest lucru este sa insuflam AI-ului calitati asociate in mod traditional cu feminitatea. In aceasta viziune, la fel cum o mama isi protejeaza copilul cu orice pret, AI-ul cu aceste calitati materne va dori, in mod similar, sa protejeze sau sa ingrijeasca utilizatorii umani, nu sa ii controleze.
„Modelul corect este singurul pe care il avem pentru ceva mai inteligent controlat de ceva mai putin inteligent, si anume o mama controlata de copilul ei”, a spus Hinton.
Hinton, care si-a vandut compania de retele neuronale DNNresearch catre Google in 2013, sustine de mult timp ca IA ar putea reprezenta o amenintare serioasa pentru umanitate. In 2023, el si-a parasit functia la Google, ingrijorat de faptul ca tehnologia ar putea fi utilizata in mod abuziv si ca este dificil sa „vezi cum poti impiedica actorii rau intentionati sa o foloseasca in scopuri malefice”.
Sursa: https://spotmedia.ro/en/news/it/the-godfather-of-artificial-intelligence-says-that-this-is-the-only-way-we-can-stop-ai-from-becoming-a-major-threat-to-develop-it-like-a-mother
