Custom AI

自动化资产管理

文本由 Phrase Language AI 从英语机器翻译而得。

维护翻译记忆库是一个长期存在且普遍的问题,而手动清理则是一个费力的过程。干净的翻译记忆库能为语言专家提供更好的参考,并带来更高质量的机器翻译,这对于 Phrase NextMT 尤为重要,因为它具备利用语言资产(如翻译记忆库和术语表)的先进能力。

创建 AAC 数据集

要创建用于在 TMS 中使用已维护翻译记忆库的数据集,请遵循以下步骤:

  1. Datasets 页面上,点击 Clean a translation memory

    Dataset details 页面随即打开。

  2. 为数据集提供一个名称。

  3. 语言选择器允许进行多种选项设置:

    1. 要创建通用语言数据集,请在原文/源语和译文语言及区域选择器中选择相同的原文/源语和译文语言。

    2. 要创建特定区域的数据集,请从第一个下拉列表中选择原文/源语和译文语言,然后从第二个下拉列表中指定原文/源语和译文区域。

      也可以添加多个译文区域(即同一语言的不同变体)以利用更多数据源。

    3. 要创建包含多个原文/源语和译文区域的数据集,请从第一个下拉列表中选择原文/源语和译文语言,从第二个下拉列表中指定原文/源语和译文区域(可以添加同一译文语言的不同变体),然后点击 + Add more locale pairs

    Input data 窗口随即出现。

  4. 点击 Add translation memories

    Choose translation memories 页面打开,并带有搜索功能 Search

  5. 要将翻译记忆库添加到数据集,请点击 Add TM 图标。该翻译记忆库已添加到 Selected 列中。

    最多可以添加 200 个翻译记忆库,且最多包含 800 万个片段。数据集理想情况下应至少包含 10,000 个片段。

    点击翻译记忆库名称将在 translation memory page 上显示所选内容。

    点击 Remove TM 图标以从 Selected 列中移除翻译记忆库。

  6. 点击保存

    Dataset details 页面随即打开。

  7. 查看所呈现的详细信息,如果正确,请点击 Continue

    Cleaning filters 页面打开。

  8. 应用所需的筛选器并点击 Create

    数据集已创建并添加到 Datasets 页面的列表中,初始状态为 CleaningCreated for 列中的状态为 Cleaning TM

Cleaning Filters for AAC

Phrase Custom AI 允许在 AI 驱动和基于规则的清理筛选器的帮助下管理翻译记忆库。提供了可能适合新用户的默认设置。

此过程保留了原始的 TM segment metadataTM tags,这允许用户在 TMS 中使用清理后的翻译记忆库时保持翻译记忆库的杠杆作用。

可用的筛选器集包括基于规则的筛选器和基于机器学习的筛选器:

  • 基于规则

    以人类易于理解的明确定义规则运行的筛选器。此筛选器类别包括 Date rangeMinimum character countSentence pair lengthLength ratioNon-translatablesDuplicatesNear-duplicates

  • 基于机器学习

    分析文本内容本身以做出决定,而不是仅仅遵循一组固定规则的筛选器。此筛选器类别包括 Misaligned source and targetLanguage identification

Date range

排除设定日期之外的句段。结束日期和开始日期以及句段的最后修改日期均包含在内。

Misaligned source and target

此筛选决定了片段在含义和语义相似度方面的匹配程度,并移除评分最低的片段。句子对对齐使用 LASER 指标进行衡量。

AI引擎被用于检查原文和译文表达的意思是否相同,或相同程度如何。推荐设置会丢弃最差的 10% 的片段,同时保留最好的 90% 的片段。

高级设置允许更改对齐方式,或者可以作为基于原始相似度分数的筛选,使用 0 到 1 之间的数字(1 表示完全对齐)。如果使用原始相似度分数,建议谨慎行事,因为每个语言对的分数分布都不同,对于一个语言对来说被认为是好的分数,对于另一个语言对来说可能是不令人满意的分数。

通常低于0.5的片段质量不是很好,而接近或超过1的片段则是两种语言中相同的片段。

示例:

字符串 "Hello, World!"1 2 3\" 有 19 个字符和 10 个字母。

最小字符和字母计数

字符计数 包含所有字符。这包括所有字母、空格以及标点符号。出于训练目的,丢弃不包含任何字母的片段可能会很有用。

字母计数仅计算字母,例如英语字母表中的字母,但也包括带有变音符号的更复杂字符或汉字。一个中文字符被计为一个字母,即使它代表不止一个字符。对于基于字符的语言,默认值为 1,但对于基于词的语言,默认值为 4(字符)和 3(字母)。最小值为1,最大值为500。

如果数据中保留了大量短片段(例如缩写),请保持较低的筛选值。

示例:

字符串 "Hello, World!"1 2 3\" 有 19 个字符和 10 个字母。

句子对长度

此筛选会移除所有长度超过用户所设阈值的句段。

总字符计数包含所有字符(字母、空格和标点符号),涵盖原文/源语和译文句子。考虑语言类型(例如中文和英文);如果原文/源语语言不是 CJK 类语言,而译文语言是 CJK(反之亦然),则此筛选将被忽略。

长度比

此筛选用于识别在比较原文/源语句段和译文句段时长度明显偏高的句段。从原文/源语语言翻译为译文语言时,某些译文的长度会增加或减少。过长或过短的译文可能表明句段质量较低。

如果原文/源语语言不是 CJK 类语言,而译文语言是(反之亦然),则此筛选将被忽略。CJK

某些语言比其他语言更冗长,因此 200% 是一个不错的默认值。如果译文语言与原文/源语语言相似,或者需要筛选出更多数据,则该值可以设得更低。

示例:

一种语言为 CJK - 比率为 1。它将不会被丢弃:

{"source": "This is a sentence.", "target": "这是一个句子。", "ratio": 1}

德语译文的长度与英语原文/源语相当,因此不会被丢弃:

{"source": "This is a sentence.", "target": "Dies ist ein Satz.", "ratio": 1.1}

德语译文比英语原文/源语长得多,因此将被丢弃:

{"source": "This is a sentence.", "target": "Dies ist ein Satz mit zusätzlichen unnötigen Füllungen.", "ratio": 3.1}

非译元素

非译元素是指原文/源语句段和译文句段相同的句段。排除所有译文文本与原文/源语文本保持不变的非译元素句对。

重复项

创建具有相同原文句子的句段组。从每个组中,仅保留最佳句段,因此如果句段的原文句子是唯一的,它会被自动保留。否则,保留具有最高分数相似度的句段。

近重复项

在测试近重复项时,原文句子(略微清理的版本)会被标准化;所有非字母字符(一些示例:“,?)!-)都会被替换为空格,并且所有字母都会转换为小写。

使用标准化后的原文句子,创建具有相同标准化原文句子的句段组。从每个组中,仅保留最佳句段,因此句段的标准化原文句子是唯一的,并会被自动保留。否则,保留具有最高分数相似度的句段。

语言识别

使用 AI 引擎根据句子识别原文和译文语言。仅当引擎识别出(原文/译文)语言(例如,较短的句子通常不足以让引擎确定语言)且该语言与预期不同时,才会移除句段。

QPS

QPS(质量评估分数) 筛选可以移除翻译记忆库中质量最低的句子对,以确保生成的句段具有最高质量。

QPS(质量评估分数)筛选可以通过两种方式进行配置:

  1. 移除指定百分比的 QPS(质量评估分数)分数最低的句子对。建议值为 10%。

  2. 选择分数阈值。使用高级设置来剔除低于可调 QPS(质量评估分数)阈值的句子对。建议的起始点为 50。

这两种选项提供了自动化的翻译记忆库整理功能,以符合用户的质量目标。

在 TMS 中使用整理后的翻译记忆库

翻译记忆库清理过程可能需要几个小时,必须在完成之后才能使用精选翻译记忆库。

要在 TMS 中使用精选翻译记忆库,请遵循以下步骤:

  1. 点击 Open More Menu 并选择下载 Download

    下载窗口随即打开。

  2. 选择 下载 (.tmx)

这将触发数据集导出过程,仅需几分钟即可完成。生成的 .TMX 格式精选翻译记忆库随后可以 上传 到 TMS,作为大小不超过 1 Gb 的新精选翻译记忆库。

如果对同一个翻译记忆库执行了两次或多次清理过程,则可以在 清理历史记录 选项卡中访问不同版本。

这篇文章有帮助吗?

Sorry about that! In what way was it not helpful?

The article didn’t address my problem.
I couldn’t understand the article.
The feature doesn’t do what I need.
Other reason.

Note that feedback is provided anonymously so we aren't able to reply to questions.
If you'd like to ask a question, submit a request to our Support team.
Thank you for your feedback.