Ҧ˳ÓêÖ®ºó£¬£¬ £¬£¬£¬£¬ £¬Ç廪95ºóÅÓÌìÓî¼ÓÈëÌÚѶ»ìÔª
2026-03-01 04:00:45

29ÈÕ£¬£¬ £¬£¬£¬£¬ £¬95ºó¶¥¼âAI¿ÆÑ§ºþ±±ÈýÕò½»Í¨¿Æ¼¼ÓÐÏÞ¹«Ë¾¼ÒÅÓÌìÓîͨ¹ýСºìÊé¹ÙÐûСÎÒ˽¼ÒÒѾ­¼ÓÈëÌÚѶ»ìÔªÍŶӣ¬£¬ £¬£¬£¬£¬ £¬²¢µ£µ±Ê×ϯÑо¿¿ÆÑ§¼Ò£¨Principal Scientist£¬£¬ £¬£¬£¬£¬ £¬»ò³ÆÊ×ϯ / Ö÷ÈÎÑо¿Ô±£©£¬£¬ £¬£¬£¬£¬ £¬²¢Ð´Ã÷ÊÇ¡°Tech Lead@Multimodal RL Team¡±£¬£¬ £¬£¬£¬£¬ £¬¼´¶àģ̬ǿ»¯Ñ§Ï°ÊÖÒÕÈÏÕæÈË¡£ ¡£¡£ ¡£¡£

ÅÓÌìÓÔÚÌû×ÓÖÐΪÍŶÓÕÐÆ¸Ð£ÕС¢ÉçÕС¢ÊµÏ°¸Úλ¡£ ¡£¡£ ¡£¡£ÕâÒâζ×ÅÅÓÌìÓî³ÉΪÌÚѶ¼ÌҦ˳ÓêÖ®ºó£¬£¬ £¬£¬£¬£¬ £¬½üÆÚÕÐÀ¿µÄÓÖһλ95ºó¶¥¼âAIÈ˲Å¡£ ¡£¡£ ¡£¡£

´ÓÐû²¼ÕÐÆ¸Ç°ºóµÄIPת±ä¿´£¬£¬ £¬£¬£¬£¬ £¬ÕâÁ½ÌìËû¸Õ¸ÕÖØÐÂ¼ÓÆÂ»Ø¹ú¡£ ¡£¡£ ¡£¡£

ÅÓÌìÓîÌåÏÖ£¬£¬ £¬£¬£¬£¬ £¬ËûÔÚ¼ÓÈëÌÚѶ»ìÔªÍŶӺ󣬣¬ £¬£¬£¬£¬ £¬Ö÷ÒªÑо¿Æ«ÏòΪ¶àģ̬ģ×ÓµÄÇ¿»¯Ñ§Ï°£¨Multimodal RL£©£¬£¬ £¬£¬£¬£¬ £¬°üÀ¨ÌìÉúÄ£×Ó£¨e.g., diffusion models£©ºÍÃ÷È·Ä£×Ó£¨e.g., VLMs£©¡£ ¡£¡£ ¡£¡£

¾Ý¹ûÕæÐÅÏ¢£¬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓîÊÇÇ廪´óѧÅÌËã»úϵ2017¼¶Ö±²©Éú£¬£¬ £¬£¬£¬£¬ £¬Ê¦´ÓÖì¾ü½ÌÊÚ¡£ ¡£¡£ ¡£¡£Ö÷ÒªÑо¿Æ«ÏòΪ»úеѧϰ£¬£¬ £¬£¬£¬£¬ £¬ÌØÊâÊÇÉî¶Èѧϰ¼°Æä³°ôÐÔµÄÑо¿£¬£¬ £¬£¬£¬£¬ £¬²¢È¡µÃÁËһϵÁеÄÑо¿Ð§¹û¡£ ¡£¡£ ¡£¡£ËûµÄÑо¿Æ«ÏòÒ²ÓëÄ¿½ñ´óÄ£×ÓÇå¾²ÐԺͿɿ¿ÐÔµÄÉú³¤Ç÷ÊÆ¸ß¶ÈÆõºÏ¡£ ¡£¡£ ¡£¡£Ëû½üÆÚµÄÑо¿ÊÂÇéÉæ¼°´óÓïÑÔÄ£×ÓµÄÇå¾²ÐÔÎÊÌ⣬£¬ £¬£¬£¬£¬ £¬°üÀ¨¡°jailbreaking/cheating LLMs¡±£¨Í»ÆÆ´óÓïÑÔÄ£×ÓÏÞÖÆ£©ºÍ¶àģ̬´óÓïÑÔÄ£×Ó(MLLMs)µÈÇ°ÑØÁìÓò¡£ ¡£¡£ ¡£¡£

ÔÚÊÖÒÕÓ¦Ó÷½Ã棬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓîÔøÌá³öʹÓÃÊÓ¾õÖØ²ÉÑùÔ­ÀíÀ´·ÀÓùDZÔÚ¹¥»÷µÄÒªÁ죬£¬ £¬£¬£¬£¬ £¬Äܹ»ÔÚ²»¸Ä±äÄ£×ÓÈ¨ÖØµÄÇéÐÎÏÂÌá¸ß»ù´¡Ä£×Ó£¨Foundation Model£©µÄ¿É¿¿ÐÔ¡£ ¡£¡£ ¡£¡£ÕâÒ»ÊÖÒÕ¹ØÓÚÄ¿½ñ´óÄ£×ÓÔÚÏÖʵӦÓÃÖеÄÇå¾²°²ÅžßÓÐÖ÷Òª¼ÛÖµ£¬£¬ £¬£¬£¬£¬ £¬ÌØÊâÊÇÔÚÄÚÈÝÌìÉú¡¢ÖÇÄÜÍÆ¼öµÈÃô¸Ð³¡¾°ÖС£ ¡£¡£ ¡£¡£

³ý´ËÖ®Í⣬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓî¼ÓÈëµÄÍŶÓÔÚ°üÀ¨NIPS 2017ºÍGeekPwn 2018ÔÚÄڵĶà¸ö¶Ô¿¹¹¥·À¾ºÈüÖоù»ñµÃµÚÒ»Ãû¡£ ¡£¡£ ¡£¡£±ðµÄ£¬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓî¶à´Îµ£µ±ICML¡¢NeurIPS¡¢ICLR¡¢CVPR¡¢ICCV¡¢ECCV¡¢TPAMIµÈ¶¥¼¶¹ú¼Ê¾Û»áºÍÆÚ¿¯µÄÉó¸åÈË¡£ ¡£¡£ ¡£¡£ËûÔøÈÙ»ñ΢ÈíѧÕß½±Ñ§½ð¡¢Ó¢Î°´ïѧÊõÏÈ·æ½±¡£ ¡£¡£ ¡£¡£

ÅÓÌìÓî×Ô¼ºÖÆ×÷µÄ×ÔÎÒÏÈÈÝÒ³Ãæ

2022Äê´ÓÇ廪²©Ê¿½áÒµºó£¬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓîûÓÐÑ¡ÔñÁôÔÚº£ÄÚ£¬£¬ £¬£¬£¬£¬ £¬¶øÊÇǰÍùÐÂ¼ÓÆÂ£¬£¬ £¬£¬£¬£¬ £¬¼ÓÈëÁËÓÉ×ÅÃûѧÕßÑÕË®³ÉÏòµ¼µÄSea AI Lab£¬£¬ £¬£¬£¬£¬ £¬µ£µ±¸ß¼¶Ñо¿¿ÆÑ§¼Ò¡£ ¡£¡£ ¡£¡£¸ÃʵÑéÊÒÓÉÑÕË®³ÉµÈ×ÅÃûѧÕßÏòµ¼£¬£¬ £¬£¬£¬£¬ £¬ÔøÊǶ«ÄÏÑÇ×î¶¥¼âµÄAIÑо¿»ú¹¹¡£ ¡£¡£ ¡£¡£

Ö»¹Ü»¹Ê®·ÖÄêÇᣬ£¬ £¬£¬£¬£¬ £¬µ«ÅÓÌìÓîÔÚѧÊõ½çµÄÓ°ÏìÁ¦ÒѾ­ºÜÊÇÏÔÖø£¬£¬ £¬£¬£¬£¬ £¬¹²ÔÚICML¡¢NeurIPS¡¢ICLRµÈ¶¥¼¶¾Û»á½ÒÏþÂÛÎÄ70ÓàÆª£¬£¬ £¬£¬£¬£¬ £¬¹È¸èѧÊõÒýÓó¬1.5Íò´Î£¬£¬ £¬£¬£¬£¬ £¬²¢¶à´Îµ£µ±¶¥¼¶ÆÚ¿¯ºÍ¾Û»áµÄÉó¸åÈË¡£ ¡£¡£ ¡£¡£

ÅÓÌìÓîµÄÑо¿Ð§¹ûÆÄ·á£¬£¬ £¬£¬£¬£¬ £¬ÇÒÔÚÒµÄÚ¾ßÓкÜÇ¿µÄÓ°ÏìÁ¦

Óë´ó¶¼µÍµ÷µÄ¿ÆÑÐѧÕß»ò¡°³ÌÐòÔ±¡±²î±ð£¬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓî»¹ÔøÔÚ2021Äê¼ÓÈë×ÛÒÕ¡¶È¼ÉÕ°É£¡Ìì²Å³ÌÐòÔ±¡·¡£ ¡£¡£ ¡£¡£ÅÓÌìÓîÆäʱ25Ë꣬£¬ £¬£¬£¬£¬ £¬×÷ΪÇ廪´óѧÅÌËã»úϵ²©Ê¿ËÄÄ꼶ѧÉú¼ÓÈëÁËÕâµµ×ÛÒÕ¡£ ¡£¡£ ¡£¡£Õâµµ×ÛÒÕ¾Û½¹ÍøÂçÇå¾²ºÍAIÁìÓòµÄÇàÄêÑо¿Õߣ¬£¬ £¬£¬£¬£¬ £¬ÊÔÍ¼Í»ÆÆ¹«¹²¶Ô³ÌÐòÔ±¡°Ä¾Ú«¡¢É罻ȱʧ¡¢°®´©¸ñ×Ó³ÄÉÀ¡±µÄ¹ÌÓÐÓ¡Ï󣬣¬ £¬£¬£¬£¬ £¬¶øÅÓÌìÓîǡǡ³ÉΪÁËÕâÖÖ¡°Í»ÆÆ¡±µÄ×î¼Ñ´úÑÔÈË¡£ ¡£¡£ ¡£¡£

ÔÚ½ÚÄ¿ÖУ¬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓîÌåÏÖ×Ô¼ºÊÇ¡°½ÏÁ¿Õý³£µÄÈË¡±£¬£¬ £¬£¬£¬£¬ £¬ÀúÀ´²»´©¸ñ×Ó³ÄÉÀ£¬£¬ £¬£¬£¬£¬ £¬Ò»Ñùƽ³£Ï²»¶´òÀºÇò¡¢½¡Éí¡¢´òÓÎÏ·¡¢¿´Ó°Ï·£¬£¬ £¬£¬£¬£¬ £¬ºÍͨË×ÄêÇáÈ˱ðÎÞ¶þÖ¡£ ¡£¡£ ¡£¡£ÕâÒ²ÈÃÐí¶à¹ÛÖÚ¿´µ½ÁËÐÂÒ»´ú¿ÆÑÐѧÕß±³ºóÏʻִ×ŵÄÒ»Ãæ¡£ ¡£¡£ ¡£¡£

ÓÐ̸ÂÛÒÔΪ£¬£¬ £¬£¬£¬£¬ £¬ÅÓÌìÓîµÄ¼ÓÃËÊÇÌÚѶ»ìÔªÍŶÓÒ»Á¬À©³ä¸ß¶ËÈ˲ŵÄÖ÷ÒªÒ»»·£¬£¬ £¬£¬£¬£¬ £¬ÆäÔÚ¿ÉÐÅAIºÍÌìÉúÄ£×Ó·½ÃæµÄר³¤£¬£¬ £¬£¬£¬£¬ £¬½«¿ÉÄÜΪ»ìԪģ×ÓÔÚÇå¾²ÐÔ¡¢¿É¿ØÐÔºÍÄÚÈÝÖÊÁ¿·½Ãæ´øÀ´ÌáÉý£¬£¬ £¬£¬£¬£¬ £¬ÓÐÖúÓÚ½â¾öÄ¿½ñ´óÄ£×ÓÃæÁÙµÄÄÚÈÝÇå¾²¡¢»Ã¾õµÈÎÊÌâ¡£ ¡£¡£ ¡£¡£²»µ«ÊÇÅÓÌìÓ£¬ £¬£¬£¬£¬ £¬ÌÚѶ»ìÔªÍŶӽüÆÚÒÑÓжàλAIÁìÓòר¼Ò¼ÓÈ룬£¬ £¬£¬£¬£¬ £¬ÏÔʾ³öÌÚѶÔÚ´óÄ£×ÓÊÖÒÕÑз¢ÉϵÄÒ»Á¬Í¶ÈëºÍÕ½ÂԽṹ¡£ ¡£¡£ ¡£¡£

±¾ÎÄϵÊÓ²ìÕßÍø¶À¼Ò¸å¼þ£¬£¬ £¬£¬£¬£¬ £¬Î´ºþ±±ÈýÕò½»Í¨¿Æ¼¼ÓÐÏÞ¹«Ë¾¾­ÊÚȨ£¬£¬ £¬£¬£¬£¬ £¬²»µÃ×ªÔØ¡£ ¡£¡£ ¡£¡£