LaTex教程及资源分享
什么是LaTexLaTex是一个文本编辑排版工具,所有指令都是通过最简单的代码完成。
Overleaf:在线LaTex编辑器Overleaf是一个云端协作式LaTeX编辑器,可用于编写和发布论文。这一编辑器与很多会议、科学杂志出版商有合作关系,不但提供官方期刊的LaTeX模板,还能直接将文件提交至这些出版社。
一些教程
LaTeX针对萌新自学者的入门教程
暨南大学吕荐瑞老师的LaTeX教程
latex-cookbook
LaTex_paper_writing_tips
开始LaTex之旅1)注册Overleaf账号
2)谷歌搜索目标会议或期刊,以ACL为例:
3)打开模板
4)文件类型介绍.tex为需要编辑的主文件;.bib文件为参考文献文件,存放每个参考文献的bibtex文件(bibtex在谷歌学术以及论文主页获取);.pdf文件为排版后输出的文件;.sty文件为该模板的排版风格文件,无需修改。
每个模板都给了详细的说明,仔细阅读并按要求进行写作并排版
LaTex神器推荐
在线表格生成器:TablesGenerator,直接生成表格代码,再也不用去敲&和敲数字了。
...
2024-ACL-分析大型语言模型在对话摘要中的行为:揭示情境幻觉趋势
Analyzing LLM Behavior in Dialogue Summarization: Unveiling Circumstantial Hallucination Trends✨ 标题: 分析大型语言模型在对话摘要中的行为:揭示情境幻觉趋势
✨ ArXiv:2405.21040
✨ 机构: Northeastern University
背景 🔍在对话摘要领域,大型语言模型(LLMs)展现出强大的生成能力,但同时也伴随着“幻觉”现象,即生成的摘要包含无直接证据支持的信息。尽管LLMs在新闻摘要等领域已受到广泛评估,但在对话摘要方面的评估尚显不足。本研究旨在填补这一空白,通过深入分析LLMs在对话摘要中的忠实度,特别是针对“情境幻觉”趋势。
方法 🔥本研究采用了以下方法:
人类注释评估:通过人工细致地标注由GPT-4和Alpaca-13B生成的对话摘要,识别源文本中缺乏证据或信息扭曲的区域。
数据集选择:选择了SAMSum和DialogSum两个对话摘要数据集,这些数据集之前用于微调模型的基准测试。
错误分类创新:提出了一种新的分类法,细分为逻辑错误、世界知识错误、指代 ...
TASLP投稿记录
2023.05.03 Submit
2024.02.28 Major Revision (10 Months)
2024.05.08 Minor Revision (2 Months)
2024.06.03 Accept (1 Month)
2024-ACL-DoRA:权重分解低秩适应
DoRA: Enhancing Parameter-Efficient Fine-Tuning with Dynamic Rank Distribution✨ Title: DoRA: Enhancing Parameter-Efficient Fine-Tuning with Dynamic Rank Distribution
✨ 标题: DoRA:利用动态等级分布提高参数微调效率
✨ ArXiv: 2405.17357
✨ 机构: Beijing Jiaotong University
背景 🔍在自然语言处理(NLP)领域,大规模预训练模型(PLMs)通过微调在各种下游任务中展现出卓越的性能。然而,随着模型规模的增加,全面微调这些模型所需的计算资源变得非常庞大,限制了它们的实际应用。传统的参数高效微调(PEFT)方法,如低秩适应(LoRA),虽然简化了微调过程,但它们通常均匀地为所有矩阵分配可训练参数,可能导致参数使用效率不高。
方法 🔥为了解决上述问题,论文提出了一种名为DoRA(Dynamic Low-Rank Adaptation)的新方法。DoRA的核心创新在于动态地调 ...
AAAI 2024 相关文献列表
NLPRobustness
TDeLTA: A Light-weight and Robust Table Detection Method based on Learning Text Arrangement
Assaying the Robustness of Zero-Shot Machine-Generated Text Detectors
How Robust are LLMs to In-Context Majority Label Bias?
LAMPAT: Low-Rank Adaption for Multilingual Paraphrasing Using Adversarial Training
Improving the Robustness of Knowledge-Grounded Dialogue via Contrastive Learning
Generating Universal Adversarial Perturbations for Quantum Classifiers
Where It Really Matters: Few-Shot ...
研究生科研入门计划
研究生科研入门每周精读至少一篇相关方向论文(顶会、Top高校、大团队优先),做好阅读笔记,不要相信自己的大脑
科研导航
学习机器学习、深度学习等研究方向相关专业知识
Week 11. 收集近年来研究方向相关的顶级会议文献机器学习顶会:NeuraIPS、ICML、ICLR
自然语言顶会:ACL、EMNLP、NAACL、COLING
推荐系统顶会:SIGIR、KDD、WWW、RecSys、WSDM
更多会议参考CCF分级
文献整理格式参考:https://github.com/mengfeizhang820/Paperlist-for-Recommender-Systems
2. 机器学习线性神经网络、多层感知机
视频学习李宏毅2021/2022春机器学习课程 P1-P17
动手学深度学习 1、2、3章
书籍阅读《神经网络与深度学习》对应章节
《机器学习》对应章节
《统计学习方法)》对应章节
3. PythonPython-100-Days Day01-15(10、13、14和15跳过)
Week 21. 机器学习线性神经网络、多层感知机
视频学习李宏毅2021/2022春机器学习课程 P ...
2023-ACL-Disentangled-Phonetic-Representation-for-Chinese-Spelling-Correction
![image-20231109143738132](/Users/fenffef/Library/Application Support/typora-user-images/image-20231109143738132.png)
论文标题:汉语拼写纠正中的语音表示解耦期刊/会议:ACL 2023作者单位:中山大学论文:https://aclanthology.org/2023.acl-long.755代码:https://github.com/liangzh63/DORM-CSC
摘要汉字拼写纠正(CSC)旨在消除和纠正汉语文本中的错误字符。虽然在这项任务中已经努力引入语音信息(汉语拼音),但他们通常将语音表征与字符表征相结合,这往往会削弱正常文本的表征效果。在这项工作中,我们提出解耦这两种类型的特征,以允许文本和语音信息之间的直接交互。为了学习有用的语音表示,我们引入了一个拼音到字符的目标,要求模型仅基于语音信息来预测正确的字符,其中施加了一个分离掩码来禁止从语音输入到文本的注意力。为了避免过度拟合语音,我们进一步设计了一个自提取模块,以确保语义信息在预测中发挥主要作用。在三个 ...
Chinese-Text-Correction-Paper-List
Chinese Text Correction PapersThis repo aims to keep tracking related work in Chinese text correction, including Chinese Spell Checking (CSC) and Chinese Grammatical Error Correction (CGEC).Welcome to contribute!
2023
paper
conference
resource
labels
Disentangled Phonetic Representation for Chinese Spelling Correction
ACL2023
[pdf] [code]
CSC
Rethinking Masked Language Modeling for Chinese Spelling Correction
ACL2023
[pdf] [code]
CSC
PTCSpell: Pre-trained Corrector Based on Character Sh ...
2023-ACL Rethinking Masked Language Modeling for Chinese Spelling Correction
![[Pasted image 20230904094353.png]]论文标题:重新思考用于中文拼写纠正的掩码语言模型期刊/会议:ACL 2023作者单位:上海交通大学论文:https://aclanthology.org/2023.acl-long.600代码:https://github.com/gingasan/lemon数据集:https://github.com/gingasan/lemon
摘要在本文中,我们研究将中文拼写纠正(CSC)视为由两个独立模型(语言模型和错误模型)做出联合决策的方法。通过实证分析,我们发现微调 BERT 往往会过度拟合错误模型,而欠拟合语言模型,从而导致对分布外错误模式的泛化能力较差。鉴于 BERT 是大多数 CSC 模型的骨干网络,这种现象具有显著的负面影响。为了解决这个问题,我们发布了一个多域基准 LEMON,它比现有基准具有更高的质量和多样性,以便对 CSC 模型的开放域泛化进行全面评估。然后,我们证明了一种非常简单的策略,即在微调过程中从输入序列中随机掩码 20% 的非错误标记,足以在不牺牲错误模型的情况下学习更好的语言模型。该技术可应 ...
博士学位生存指南
A Survival Guide to a PhD1. 保持高效(Being Productive)2. 阅读文献(Reading Papers)
读,读,读!
做笔记
深入阅读
拓展阅读宽度/深度
3. 应掌握的技能
Bash configuration (e.g., .bashrc, environment variables, aliases)
PATH, CLASSPATH, PYTHONPATH
Unix basics (e.g., cd, ls, mv, rm, rmdir, man, history, ctrl+r,
ctrl+a, ctrl+e, ctrl+← and ctrl+→, killring vs. clipboard) – see http://freeengineer.org/learnUNIXin10minutes.html for a starting point
Basic bash scripting (e.g., sort, uniq, cut, tr, wc, xargs, find, grep, awk, sed)
ctrl+c ...