劉憲權(quán)

人工智能時(shí)代的到來必將帶來風(fēng)險(xiǎn)，其中的刑事風(fēng)險(xiǎn)包括可能使得部分傳統(tǒng)犯罪的危害性發(fā)生“量變”，可能會導(dǎo)致新的犯罪形式產(chǎn)生，以及人工智能產(chǎn)品可能因?yàn)榉N種原因脫離人類控制，進(jìn)而實(shí)施嚴(yán)重危害社會的犯罪行為。

目前，我國刑法可以從故意犯罪和過失犯罪兩個(gè)方面考慮對人工智能研發(fā)者或使用者的行為加以規(guī)制。對于故意利用人工智能技術(shù)研發(fā)或使用相應(yīng)產(chǎn)品實(shí)施嚴(yán)重危害社會犯罪的，應(yīng)當(dāng)將人工智能產(chǎn)品看作行為人實(shí)施犯罪的“智能工具”，所有刑事責(zé)任應(yīng)當(dāng)由人工智能產(chǎn)品的研發(fā)者或使用者承擔(dān)。在過失犯罪的情況下，刑事責(zé)任的判斷標(biāo)準(zhǔn)是根據(jù)研發(fā)或使用當(dāng)時(shí)的人工智能技術(shù)發(fā)展水平，考察研發(fā)者或使用者對危害結(jié)果是否負(fù)有預(yù)見義務(wù)。目前，面對人工智能時(shí)代的多重刑事風(fēng)險(xiǎn)，我國現(xiàn)行刑法顯得力有不逮，主要包括：無法規(guī)制智能機(jī)器人的犯罪行為，對研發(fā)者和使用者故意或過失犯罪的責(zé)任追究也均存在一定的缺陷。

面對人工智能時(shí)代已經(jīng)或可能出現(xiàn)的刑事風(fēng)險(xiǎn)，需要對刑法進(jìn)行一定的修正和完善。第一，從源頭防控風(fēng)險(xiǎn)，增設(shè)濫用人工智能罪。濫用人工智能行為已觸犯人類社會的安全問題，刑法需要對其加以特別規(guī)制。而刑法以外法律法規(guī)的規(guī)制不足以威懾人工智能產(chǎn)品的研發(fā)者和使用者，無法起到防控作用。第二，確立嚴(yán)格責(zé)任，增設(shè)人工智能事故罪。在研發(fā)人工智能產(chǎn)品的過程中必須將人類社會的法律以及道德等規(guī)范和價(jià)值嵌入相應(yīng)的系統(tǒng)之中，研發(fā)者和使用者需要在研發(fā)和使用過程中履行數(shù)據(jù)保護(hù)義務(wù)。人類必須能夠完整控制人工智能自主武器系統(tǒng)。第三，智能機(jī)器人的行為完全可能成為法律意義上的行為，適時(shí)考慮賦予智能機(jī)器人刑事責(zé)任主體的地位。

（摘自《法商研究》，2018年第1期，第3-11頁。）

*華東政法大學(xué)教授[200042]