北京前瞻人工智能安全與治理研究院是聚焦人工智能安全發(fā)展與治理，融合科學研究、產(chǎn)業(yè)應(yīng)用、高端智庫能力的北京市新型研發(fā)與產(chǎn)業(yè)賦能機構(gòu)。研究院致力于構(gòu)建系統(tǒng)化的AI安全與治理體系，服務(wù)人工智能的創(chuàng)新與應(yīng)用，推動前沿人工智能技術(shù)的安全與穩(wěn)健發(fā)展。依托北京市豐富的學術(shù)資源與產(chǎn)業(yè)生態(tài)，研究院積極推進跨學科融合與應(yīng)用發(fā)展，面向重大安全問題與前瞻議題持續(xù)攻堅，探索可持續(xù)的人工智能發(fā)展與治理路徑。

研究院由聯(lián)合國人工智能高級顧問機構(gòu)（UN AI Advisory Body）專家、TIME100/AI入選者曾毅領(lǐng)銜發(fā)起并任院長，聚焦人工智能模型安全、治理機制與實踐、倫理評估體系建設(shè)等關(guān)鍵方向。研究院核心成果發(fā)表在AAAI、ICML等領(lǐng)域頂級國際會議，作為中國人工智能安全與治理代表性機構(gòu)之一參與國際合作與科技外交。核心研究團隊成員來自中國科學院、哈爾濱工業(yè)大學、愛丁堡大學等知名科研機構(gòu)，并與北京大學、清華大學、中國信通院、中科聞歌、瑞萊智慧等產(chǎn)研機構(gòu)相關(guān)科研與產(chǎn)業(yè)化機構(gòu)與團隊深度合作。

研究院的核心價值觀：人工智能倫理安全是人工智能的研發(fā)、應(yīng)用與部署的第一性原理，不可刪除，不可違背。安全與治理不僅是駕馭技術(shù)發(fā)展的韁繩，更是引領(lǐng)其正確航向的方向盤。安全與治理能力是人工智能的能力發(fā)展的核心要素。技術(shù)創(chuàng)新與風險防范可以也必須兼得。安全與治理確保人工智能穩(wěn)健發(fā)展，賦能全球可持續(xù)發(fā)展與和諧共生。

研究院網(wǎng)站：https://www.beijing-aisi.ac.cn

根據(jù)近期科研與產(chǎn)業(yè)賦能工作需求，現(xiàn)招聘以下崗位，工作地點為中關(guān)村門頭溝園京西智谷：

一、       崗位名稱：

助理研究員（大語言模型安全方向）

崗位職責：

1.開展大語言模型（LLM）相關(guān)的安全性研究，探索模型對齊、魯棒性、偏見防控、紅隊測試等關(guān)鍵問題；

2.研究并開發(fā)基于強化學習等方法的人類偏好對齊與安全增強算法；

3.參與開源LLM框架或安全評估工具的研發(fā)與維護，推動安全技術(shù)在大模型體系中的落地；

4.撰寫與發(fā)表高水平國內(nèi)外頂會/期刊研究論文；

5.跟蹤與研判前沿進展，協(xié)助團隊制定研究方向與技術(shù)路線，推動產(chǎn)學研協(xié)同發(fā)展。

任職要求：

1.計算機、人工智能、數(shù)學、控制等相關(guān)專業(yè)博士，或碩士具備高水平研究成果；

2.熟悉主流大語言模型訓(xùn)練和推理架構(gòu)（Transformers,veRL,TRL,vllm,SGLang等），具備大模型微調(diào)與對齊經(jīng)驗；

3.扎實的強化學習背景，尤其在RLHF、RLAIF、GRPO等方面有實踐或理論成果；

4.至少在A類國際會議/期刊發(fā)表過2篇以上相關(guān)論文（NeurIPS、ICLR、ICML、ACL等）；

5.有LLM安全方向研究經(jīng)驗者優(yōu)先，如有紅隊測試、可解釋性、審查機制等項目經(jīng)驗尤佳；

6.具備良好的科研能力、獨立思考與團隊協(xié)作精神，善于溝通與知識共享。

我們提供：

有競爭力的薪酬待遇與科研資源支持；

與一流高校、實驗室和產(chǎn)業(yè)合作的科研環(huán)境；

支持產(chǎn)出高水平論文并參與國內(nèi)外交流；

專注于前沿領(lǐng)域的探索機會與成長空間。

二、       崗位名稱：

LLM安全方向?qū)嵙暽?/p>

崗位職責：

1.協(xié)助開展大語言模型（LLM）相關(guān)的安全性研究與系統(tǒng)實驗，包括模型對齊、風險評估、魯棒性測試等；

2.支持價值對齊相關(guān)項目的算法調(diào)研與原型實現(xiàn)；

3.跟進國內(nèi)外相關(guān)領(lǐng)域最新研究進展，參與論文閱讀、報告撰寫及代碼實現(xiàn)；

4.協(xié)助研究團隊進行數(shù)據(jù)處理、模型訓(xùn)練與實驗評估。

任職要求：

1.計算機、人工智能、數(shù)學等相關(guān)專業(yè)碩士或本科高年級在讀，具備扎實的編程能力（如Python、PyTorch）；

2.對大語言模型和/或強化學習有深入興趣，有相關(guān)項目、論文或開源貢獻者優(yōu)先；

3.具備良好的英文文獻閱讀能力和科研寫作能力；

4.每周可實習至少3天，實習期不少于3個月（優(yōu)秀者可遠程，定期線下參會研討）；

5.有志于在人工智能前沿研究領(lǐng)域深入發(fā)展。

我們提供：

與優(yōu)秀研究員共同參與前沿科研項目的機會；

實習期間有導(dǎo)師指導(dǎo)，表現(xiàn)優(yōu)異者有留用/推薦信/合著論文等機會；

豐富的學術(shù)資源與實驗平臺支持，開放包容的團隊氛圍。

三、       應(yīng)聘方式

請將以下材料發(fā)送至：hr@beijing-aisi.ac.cn：

簡歷

代表論文PDF（標注頂會收錄情況）

GitHub技術(shù)賬號（附安全相關(guān)項目鏈接）

研究陳述（500字闡明對LLM安全趨勢的理解）

北京前瞻人工智能安全與治理研究院(Beijing Institute of AI Safety and Governance)是通過人工智能安全發(fā)展與治理，促進人工智能穩(wěn)健發(fā)展與負責任應(yīng)用的新型研發(fā)機構(gòu)。前瞻研究院致力于構(gòu)建系統(tǒng)化的安全與治理體系，為人工智能的創(chuàng)新和應(yīng)用提供堅實的安全保障，引領(lǐng)人工智能安全與治理的新趨勢。前瞻研究院致力于打通人工智能安全與治理前沿研究及產(chǎn)業(yè)自律自治、政府引導(dǎo)與監(jiān)管的全新探索。研究院基于北京市和國內(nèi)外合作伙伴的豐富學術(shù)資源和產(chǎn)業(yè)優(yōu)勢，推動跨學科合作，不斷探索新的研究路徑，解決人工智能倫理與安全領(lǐng)域中的潛在和緊迫問題。研究院還致力于人工智能長遠風險與安全的戰(zhàn)略性前瞻研究，并積極參與和貢獻于人工智能安全與治理國家戰(zhàn)略和國際合作與交流。前瞻研究院不僅僅是立足北京，服務(wù)北京，更會將北京人工智能安全與治理的探索與全國各省市積極分享，共同探討與促進。并與全國的相關(guān)機構(gòu)一道促進人工智能安全與治理的中國實踐，發(fā)出中國聲音，融入和貢獻于全球人工智能的穩(wěn)健發(fā)展。

研究院網(wǎng)址：http://beijing-aisi.ac.cn/

聯(lián)系方式：contact@beijing-aisi.ac.cn

信息來源于網(wǎng)絡(luò)，如有變更請以原發(fā)布者為準。

來源鏈接：

https://mp.weixin.qq.com/s/Yuoq_eOyhLFa3pM3fWWhWQ

為防止簡歷投遞丟失請抄送一份至：boshijob@126.com（郵件標題格式：應(yīng)聘職位名稱+姓名+學歷+專業(yè)+中國博士人才網(wǎng)）