北京前瞻人工智能安全與治理研究院是聚焦人工智能安全發(fā)展與治理，融合科學研究、產(chǎn)業(yè)應用、高端智庫能力的北京市新型研發(fā)與產(chǎn)業(yè)賦能機構。研究院致力于構建系統(tǒng)化的AI安全與治理體系，服務人工智能的創(chuàng)新與應用，推動前沿人工智能技術的安全與穩(wěn)健發(fā)展。依托北京市豐富的學術資源與產(chǎn)業(yè)生態(tài)，研究院積極推進跨學科融合與應用發(fā)展，面向重大安全問題與前瞻議題持續(xù)攻堅，探索可持續(xù)的人工智能發(fā)展與治理路徑。

研究院由聯(lián)合國人工智能高級顧問機構（UN AI Advisory Body）專家、TIME100/AI入選者曾毅領銜發(fā)起并任院長，聚焦人工智能模型安全、治理機制與實踐、倫理評估體系建設等關鍵方向。研究院核心成果發(fā)表在AAAI、ICML等領域頂級國際會議，作為中國人工智能安全與治理代表性機構之一參與國際合作與科技外交。核心研究團隊成員來自中國科學院、哈爾濱工業(yè)大學、愛丁堡大學等知名科研機構，并與北京大學、清華大學、中國信通院、中科聞歌、瑞萊智慧等產(chǎn)研機構相關科研與產(chǎn)業(yè)化機構與團隊深度合作。

研究院的核心價值觀：人工智能倫理安全是人工智能的研發(fā)、應用與部署的第一性原理，不可刪除，不可違背。安全與治理不僅是駕馭技術發(fā)展的韁繩，更是引領其正確航向的方向盤。安全與治理能力是人工智能的能力發(fā)展的核心要素。技術創(chuàng)新與風險防范可以也必須兼得。安全與治理確保人工智能穩(wěn)健發(fā)展，賦能全球可持續(xù)發(fā)展與和諧共生。

研究院網(wǎng)站：https://www.beijing-aisi.ac.cn

根據(jù)近期科研與產(chǎn)業(yè)賦能工作需求，現(xiàn)招聘以下崗位，工作地點為中關村門頭溝園京西智谷：

一、       崗位名稱：

助理研究員（大語言模型安全方向）

崗位職責：

1.開展大語言模型（LLM）相關的安全性研究，探索模型對齊、魯棒性、偏見防控、紅隊測試等關鍵問題；

2.研究并開發(fā)基于強化學習等方法的人類偏好對齊與安全增強算法；

3.參與開源LLM框架或安全評估工具的研發(fā)與維護，推動安全技術在大模型體系中的落地；

4.撰寫與發(fā)表高水平國內(nèi)外頂會/期刊研究論文；

5.跟蹤與研判前沿進展，協(xié)助團隊制定研究方向與技術路線，推動產(chǎn)學研協(xié)同發(fā)展。

任職要求：

1.計算機、人工智能、數(shù)學、控制等相關專業(yè)博士，或碩士具備高水平研究成果；

2.熟悉主流大語言模型訓練和推理架構（Transformers,veRL,TRL,vllm,SGLang等），具備大模型微調(diào)與對齊經(jīng)驗；

3.扎實的強化學習背景，尤其在RLHF、RLAIF、GRPO等方面有實踐或理論成果；

4.至少在A類國際會議/期刊發(fā)表過2篇以上相關論文（NeurIPS、ICLR、ICML、ACL等）；

5.有LLM安全方向研究經(jīng)驗者優(yōu)先，如有紅隊測試、可解釋性、審查機制等項目經(jīng)驗尤佳；

6.具備良好的科研能力、獨立思考與團隊協(xié)作精神，善于溝通與知識共享。

我們提供：

有競爭力的薪酬待遇與科研資源支持；

與一流高校、實驗室和產(chǎn)業(yè)合作的科研環(huán)境；

支持產(chǎn)出高水平論文并參與國內(nèi)外交流；

專注于前沿領域的探索機會與成長空間。

二、       崗位名稱：

LLM安全方向?qū)嵙暽?/p>

崗位職責：

1.協(xié)助開展大語言模型（LLM）相關的安全性研究與系統(tǒng)實驗，包括模型對齊、風險評估、魯棒性測試等；

2.支持價值對齊相關項目的算法調(diào)研與原型實現(xiàn)；

3.跟進國內(nèi)外相關領域最新研究進展，參與論文閱讀、報告撰寫及代碼實現(xiàn)；

4.協(xié)助研究團隊進行數(shù)據(jù)處理、模型訓練與實驗評估。

任職要求：

1.計算機、人工智能、數(shù)學等相關專業(yè)碩士或本科高年級在讀，具備扎實的編程能力（如Python、PyTorch）；

2.對大語言模型和/或強化學習有深入興趣，有相關項目、論文或開源貢獻者優(yōu)先；

3.具備良好的英文文獻閱讀能力和科研寫作能力；

4.每周可實習至少3天，實習期不少于3個月（優(yōu)秀者可遠程，定期線下參會研討）；

5.有志于在人工智能前沿研究領域深入發(fā)展。

我們提供：

與優(yōu)秀研究員共同參與前沿科研項目的機會；

實習期間有導師指導，表現(xiàn)優(yōu)異者有留用/推薦信/合著論文等機會；

豐富的學術資源與實驗平臺支持，開放包容的團隊氛圍。

三、       應聘方式

請將以下材料發(fā)送至：hr@beijing-aisi.ac.cn：

簡歷

代表論文PDF（標注頂會收錄情況）

GitHub技術賬號（附安全相關項目鏈接）

研究陳述（500字闡明對LLM安全趨勢的理解）

北京前瞻人工智能安全與治理研究院(Beijing Institute of AI Safety and Governance)是通過人工智能安全發(fā)展與治理，促進人工智能穩(wěn)健發(fā)展與負責任應用的新型研發(fā)機構。前瞻研究院致力于構建系統(tǒng)化的安全與治理體系，為人工智能的創(chuàng)新和應用提供堅實的安全保障，引領人工智能安全與治理的新趨勢。前瞻研究院致力于打通人工智能安全與治理前沿研究及產(chǎn)業(yè)自律自治、政府引導與監(jiān)管的全新探索。研究院基于北京市和國內(nèi)外合作伙伴的豐富學術資源和產(chǎn)業(yè)優(yōu)勢，推動跨學科合作，不斷探索新的研究路徑，解決人工智能倫理與安全領域中的潛在和緊迫問題。研究院還致力于人工智能長遠風險與安全的戰(zhàn)略性前瞻研究，并積極參與和貢獻于人工智能安全與治理國家戰(zhàn)略和國際合作與交流。前瞻研究院不僅僅是立足北京，服務北京，更會將北京人工智能安全與治理的探索與全國各省市積極分享，共同探討與促進。并與全國的相關機構一道促進人工智能安全與治理的中國實踐，發(fā)出中國聲音，融入和貢獻于全球人工智能的穩(wěn)健發(fā)展。

研究院網(wǎng)址：http://beijing-aisi.ac.cn/

聯(lián)系方式：contact@beijing-aisi.ac.cn

信息來源于網(wǎng)絡，如有變更請以原發(fā)布者為準。

來源鏈接：

https://mp.weixin.qq.com/s/Yuoq_eOyhLFa3pM3fWWhWQ

為防止簡歷投遞丟失請抄送一份至：boshijob@126.com（郵件標題格式：應聘職位名稱+姓名+學歷+專業(yè)+中國博士人才網(wǎng)）