【NLP】自动化计算文本文件TTR的bash脚本
创始人
2024-05-28 10:32:56
0

自动化计算文本文件TTR的bash脚本

简介

这是一个可以计算文本文件TTR的bash脚本,文件名为:calculate_TTR.sh。它会接收一个文件名作为参数,并输出总单词数、特异单词数和TTR

TTR是什么

TTR(Type-Token Ratio)是用来衡量文章复杂程度的,计算方法很简单,就是一篇文章中用了多少单词(种类,去重后的)比上总共的单词数量。

TTR=UniqueTotalTTR=\frac{Unique}{Total}TTR=TotalUnique​

如果TTR越大就认为这篇文章的复杂性越高。

脚本代码

#!/bin/bash# 读取文件
filename="$1"
if [ ! -f "$filename" ]; thenecho "文件不存在或无法读取!"exit 1
fi# 去除标点符号和空格,只保留单词
words=$(cat "$filename" | tr -cs '[:alnum:]' '[\n*]' | tr '[:upper:]' '[:lower:]')# 计算总单词数量和不同单词数量
total_words=$(echo "$words" | wc -w)
unique_words=$(echo "$words" | sort | uniq | wc -w)
# -w或--words 只显示词数。
# -l或--lines 显示行数。# 计算TTR
ttr=$(echo "scale=4; $unique_words/$total_words" | bc)
# -c或--bytes或--chars 只显示Bytes数。# 输出结果
echo "Total: $total_words"
echo "Unique: $unique_words"
echo "TTR: $ttr"

非脚本程序

这可以帮助理解脚本程序:

cat pubmed-a.txt |tr -cs "[:alnum:]" "\n" |tr [:upper:] [:lower:] >pubmed.a.pure.txt
wc pubmed.a.pure.txt
sort pubmed.a.pure.txt |uniq |wc

这是一些代码片段的具体作用:

  1. cat pubmed-a.txt: 显示文件pubmed-a.txt的内容。
  2. tr -cs "[:alnum:]" "\n":使用tr命令将pubmed-a.txt中的非字母数字字符替换为换行符,保留字母数字字符。
  3. tr [:upper:] [:lower:]:使用tr命令将pubmed-a.txt中的大写字母转换为小写字母。
  4. > pubmed.a.pure.txt:将上一条命令的输出结果重定向到pubmed.a.pure.txt文件中。
  5. wc pubmed.a.pure.txt:统计pubmed.a.pure.txt文件中的行数、单词数和字符数。
  6. sort pubmed.a.pure.txt | uniq | wc:将pubmed.a.pure.txt文件中的内容按字典序排序,去重后再统计行数、单词数和字符数。

这些命令的目的是将pubmed-a.txt文件中的文本处理成纯文本格式,并统计其中的单词数、行数和字符数。其中,排序和去重操作可以用来查看pubmed-a.txt文件中不同单词的数量。

计算代码

chmod 777 calculate_TTR.sh
./calculate_TTR.sh BROWN_A.txt
./calculate_TTR.sh pubmed-a.txt

结果

image-20230303152440054

d-a.txt


## 结果[外链图片转存中...(img-nhbxYC5u-1677841449710)]

相关内容

热门资讯

电影《爱情公寓》经典台词 电影《爱情公寓》经典台词  1、我们也许是别人故事里的配角,但至少有一个舞台,我们永远都会站在最中央...
摇滚藏獒经典台词 关于摇滚藏獒经典台词  藏獒波弟(Bodi)生长于喜马拉雅山深处一个与世隔绝的世外桃源,本该按家族传...
千与千寻里的经典台词 千与千寻里的经典台词  在日新月异的现代社会中,需要使用台词的情况越来越多,台词起着解释镜头内容和推...
在升学宴上的嘉宾代表致辞 在升学宴上的嘉宾代表致辞在升学宴上的嘉宾代表致辞  尊敬的各位嘉宾,女士们,先生们:    大家上午...
你的名字经典名台词 你的名字经典名台词  1、重要的人,不想忘记的人,绝不能忘记的人,是谁?  2、我们的相遇绝不是偶然...
公司开业庆典主持词 公司开业庆典主持词15篇  主持词可以采用和历史文化有关的表述方法去写作以提升活动的文化内涵。在当今...
说方言郭德纲相声台词 说方言郭德纲相声台词  各位有认识我,有不认识。我是相声界非著名相声演员郭德纲。和小编一起来看看下文...
幼儿园毕业典礼主持稿开场白   幼儿园大班孩子即将挥别母校,那么在毕业典礼上应该如何说好主持词呢,以下是CN人才小编搜集并整理的...
小班元旦主持词 导语:幼儿园举办元旦晚会主持词怎么说?以下是小编整理的小班元旦主持词,欢迎阅读参考。小班元旦主持词a...
公司结训主持词 公司结训主持词  主持词要根据活动对象的不同去设置不同的主持词。时代不断在进步,各种场合中活跃现场气...
读书分享会的精彩主持词 读书分享会的精彩主持词  由主持人于节目进行过程中串联节目的串联词。如今的各种演出活动和集会中,主持...
幼儿园运动会入场主持词 有关幼儿园运动会入场主持词(精选12篇)  契合现场环境的主持词能给集会带来双倍的效果。随着社会一步...
毕业30年同学聚会致辞 毕业30年同学聚会致辞  毕业30年同学聚会致辞    2013年7月13日下午在吉安市林业局食堂三...
报告会主持词 【精选】报告会主持词4篇  主持词没有固定的格式,他的最大特点就是富有个性。在当今中国社会,主持成为...
过界男女的经典台词及微影评 过界男女的经典台词及微影评  过界男女经典台词  1、因为李先生的户口被冻结了,所以暂时不能为你办理...
中秋节商务贺卡祝词 中秋节商务贺卡祝词把酝酿已久的创意交给秋风,任其去演绎相思的旋律;让翘盼团聚的心跃上太空,在月宫桂树...
谢师宴酒席致辞 谢师宴酒席致辞(精选5篇)  无论是在学校还是在社会中,说到致辞,大家肯定都不陌生吧,致辞具有“礼仪...
快板书武松打虎台词 快板书武松打虎台词  快板书是起源于山东省汉族传统曲艺形式,具有一百多年的历史。它最早流行于山东、华...
学校元旦晚会开场白主持词 学校元旦晚会开场白主持词  根据活动对象的不同,需要设置不同的主持词。在一步步向前发展的社会中,越来...
长辈证婚人证婚词 长辈证婚人证婚词各位领导、各位来宾、各位朋友、女士先生们:大家好!华灯初放、嘉宾盈门,我怀着兴奋的心...