Hive UDF整理 (可以直接在mysql上测试,hive中没有伪表,需要手动创建,反应慢) 字符串函数 字符串长度函数:length 语法: length(string A) 返回值: int 说明:返回字符串A的长度 举例: hive> select length(‘abcedfg’) from dual; 7 | 字符串反转函数:reverse 语法: reverse(string A) 返回值: string 说明:返回字符串A的反转结果 举例: hive> select reverse(‘abcedfg’) from dual; gfdecba | 字符串连接函数:concat 语法: concat(string A, string B…) 返回值: string 说明:返回输入字符串连接后的结果,支持任意个输入字符串 举例: hive> select concat(‘abc’,'def’,'gh’) from dual; abcdefgh | 带分隔符字符串连接函数:concat_ws 语法: concat_ws(string SEP, string A, string B…) 返回值: string 说明:返回输入字符串连接后的结果,SEP表示各个字符串间的分隔符 举例: hive> select concat_ws(‘,’,'abc’,'def’,'gh’) from dual; abc,def,gh | 字符串截取函数:substr,substring 语法: substr(string A, int start),substring(string A, int start) 返回值: string 说明:返回字符串A从start位置到结尾的字符串 举例: hive> select substr(‘abcde’,3) from dual; cde hive> select substring(‘abcde’,3) from dual; cde hive> select substr(‘abcde’,-1) from dual; (和ORACLE相同) e | 字符串截取函数:substr,substring 语法: substr(string A, int start, int len),substring(string A, int start, int len) 返回值: string 说明:返回字符串A从start位置开始,长度为len的字符串 举例: hive> select substr(‘abcde’,3,2) from dual; cd hive> select substring(‘abcde’,3,2) from dual; cd hive>select substring(‘abcde’,-2,2) from dual; de | 字符串转大写函数:upper,ucase 语法: upper(string A) ucase(string A) 返回值: string 说明:返回字符串A的大写格式 举例: hive> select upper(‘abSEd’) from dual; ABSED hive> select ucase(‘abSEd’) from dual; ABSED | 字符串转小写函数:lower,lcase 语法: lower(string A) lcase(string A) 返回值: string 说明:返回字符串A的小写格式 举例: hive> select lower(‘abSEd’) from dual; absed hive> select lcase(‘abSEd’) from dual; absed | 去空格函数:trim 语法: trim(string A) 返回值: string 说明:去除字符串两边的空格 举例: hive> select trim(‘ abc ‘) from dual; abc | 左边去空格函数:ltrim 语法: ltrim(string A) 返回值: string 说明:去除字符串左边的空格 举例: hive> select ltrim(‘ abc ‘) from dual; abc | 右边去空格函数:rtrim 语法: rtrim(string A) 返回值: string 说明:去除字符串右边的空格 举例: hive> select rtrim(‘ abc ‘) from dual; abc | 正则表达式替换函数:regexp_replace 语法: regexp_replace(string A, string B, string C) 返回值: string 说明:将字符串A中的符合java正则表达式B的部分替换为C。注意,在有些情况下要使用转义字符 举例: hive> select regexp_replace(‘foobar’, ‘oo|ar’, ”) from dual; fb | (mysql不支持,请用hive测试,请先建一个伪表dual) 正则表达式解析函数:regexp_extract 语法: regexp_extract(string subject, string pattern, int index) 返回值: string 说明:将字符串subject按照pattern正则表达式的规则拆分,返回index指定的字符。注意,在有些情况下要使用转义字符 X? X,一次或一次也没有 X* X,零次或多次 X+ X,一次或多次 X{n} X,恰好 n 次 X{n,} X,至少 n 次 X{n,m} X,至少 n 次,但是不超过 m 次 举例: hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 1) from dual; the hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 2) from dual; bar hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 0) from dual; foothebar hive>select regexp_extract('userid=13333333', '.*=(.*)', 1) from dual; (说明=不是特殊字符) 13333333 hive>select regexp_extract('userid.13333333', '.*\\.(.*)', 1) from dual; (\\如果是特殊字符请用,例如:. * ( ) ) 13333333 | URL解析函数:parse_url 语法: parse_url(string urlString, string partToExtract [, string keyToExtract]) 返回值: string 说明:返回URL中指定的部分。partToExtract的有效值为:HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO. 举例: hive> select parse_url(‘ 这里填写url地址′, ‘HOST’) from dual; facebook.com hive> select parse_url(‘ 这里填写url地址′, ‘QUERY’, ‘k1′) from dual; v1 | json解析函数:get_json_object 语法: get_json_object(string json_string, string path) 返回值: string 说明:解析json的字符串json_string,返回path指定的内容。如果输入的json字符串无效,那么返回NULL。 举例: hive> select get_json_object(‘{“store”: > {“fruit”:\[{"weight":8,"type":"apple"},{"weight":9,"type":"pear"}], > “bicycle”:{“price”:19.95,”color”:”red”} > }, > “email”:” amy@only_for_json_udf_test.net”, > “owner”:”amy” > } > ‘,’$.owner’) from dual; amy | 空格字符串函数:space 语法: space(int n) 返回值: string 说明:返回长度为n的字符串 举例: hive> select space(10) from dual; hive> select length(space(10)) from dual; 10 | 重复字符串函数:repeat 语法: repeat(string str, int n) 返回值: string 说明:返回重复n次后的str字符串 举例: hive> select repeat(‘abc’,5) from dual; abcabcabcabcabc | 首字符ascii函数:ascii 语法: ascii(string str) 返回值: int 说明:返回字符串str第一个字符的ascii码 举例: hive> select ascii(‘abcde’) from dual; 97 | 左补足函数:lpad 语法: lpad(string str, int len, string pad) 返回值: string 说明:将str进行用pad进行左补足到len位 举例: hive> select lpad(‘abc’,10,’td’) from dual; tdtdtdtabc 与GP,ORACLE不同,pad 不能默认 | 右补足函数:rpad 语法: rpad(string str, int len, string pad) 返回值: string 说明:将str进行用pad进行右补足到len位 举例: hive> select rpad(‘abc’,10,’td’) from dual; abctdtdtdt | 分割字符串函数: split 语法: split(string str, string pat) 返回值: array 说明: 按照pat字符串分割str,会返回分割后的字符串数组 举例: hive> select split(‘abtcdtef’,'t’) from dual; ["ab","cd","ef"] | 集合查找函数: find_in_set 语法: find_in_set(string str, string strList) 返回值: int 说明: 返回str在strlist第一次出现的位置,strlist是用逗号分割的字符串。如果没有找该str字符,则返回0(只能是逗号分隔,不然返回0) 举例: hive> select find_in_set(‘ab’,'ef,ab,de’) from dual; 2 hive> select find_in_set(‘at’,'ef,ab,de’) from dual; 0 | |