Hive踩过的坑-ctrl+c不能 kill job
好了,终于说到这个。 是不是都觉得ctrl+c后退出hive窗口后就不会执行了?too young!!!!!! 在hive运行的过程中,采用 ctrl + c 的方法只是退出客户端,hive的job仍是在集群后台运行的!!!因为我就出现过一次,年轻阿程序在后台执行了一天还在跑,因为那数据有连表之后有100E左右。使用的资源也占了鸡巴多.. 想要真正…
Hive踩过的坑-hive having count 不能去重
hive在group by xx having count()是不支持去重计数的。 不信的话,你们可以试下类似的代码? SELECT IMEI,IP,FT,LT,CASE WHEN FT = LT THEN 1 ELSE 0 END IS_O_DAY FROM temp_gz23g_IP_1878910_2 b WHERE b.IP IN ( SE…
Hive踩过的坑-Hive空值、NULL判断
最近经常在Hive上跑oralce 语句,虽然Hive执行语句大致相同,可是也有一些大坑..比如就是空值和null判断 在oralce 判断是否为空直接可以 xxx is null / xxx is not null; 而在Hive上是这种方式是不对的。得到的结果一定是错的。 hive中空值判断基本分两种 1.NULL 与 \N(当字段为NULL时…
java对比入库小程序
需求:对比规则表和累计表,符合条件的进行写入文件。 程序结构 pom.xml <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://m…
oracle设置id自增sql
记录自己的步骤... ---创建SEQUENCE实现自增长,SEQUENCE的命名规范(重要):表名_SEQ CREATE SEQUENCE IOT_BASE_CM_SEQ MINVALUE 1 MAXVALUE 99999999 START WITH 1 INCREMENT BY 1; -- 创建INSERT操作创建触发器,命名规范(重要):名称…
xml配置文件上的坑->元素内容必须由格式正确的字符数据或标记组成
今天xml配置文件时候,遇到了一个坑,开始还以为是打jar包出了问题,然后测试环境跑了一下,没问题。可是在生产环境中报错是Error on line 38 of document : 元素内容必须由格式正确的字符数据或标记组成。 刚开始这个错误百思不得其解..然后看了下xml的配置文件后,跑测试环境一看,这尼玛是'<'/'>'的字符错误…
unix_timestamp、from_unixtime时间戳函数用法(hive)
一、unix_timestamp函数用法 1、unix_timestamp() 得到当前时间戳 2、如果参数date满足yyyy-MM-dd HH:mm:ss形式,则可以直接unix_timestamp(string date) 得到参数对应的时间戳 3、如果参数date满足yyyy-MM-dd HH:mm:ss形式,则我们需要指定date的形式,…
JS文件中获取contextPath的方法
//JS文件中获取contextPath的方法 function getContextPath() { var contextPath = document.location.pathname; var index =contextPath.substr(1).indexOf("/"); contextPath = contextPath.subs…
一个线程例子
emmm... 代码如下 import java.util.ArrayList; import java.util.List; public class Main { private static List<Integer> list = new ArrayList<>(); public static void main(…
定义Java的方法-回顾
如何定义自己创建的Java方法,这个应该是基础的基础。但是还是复习一下吧。 所谓方法,就是用来解决一类问题的代码的,是一个功能模块。 一般情况下,定义一个方法的语法是: 访问修饰符 返回类型 方法名称([参数类型 变量, ......]) { 方法体代码; [return [返回值];] } 其中: 访问修饰符:方法允许被访问的权限范围, 可以是 …
查看数据库消耗情况的sql–oralce
SELECT a.tablespace_name "表空间名", total / (1024 * 1024 * 1024) 表空间大小G, free / (1024 * 1024 * 1024) 表空间剩余大小, (total - free) / (1024 * 1024 * 1024) 表空间使用大小, ROUND((total - free) …
hadoop–HDFS(fs)常用命令
fs最常用命令 bin/hadoop fs -ls hdfs_path //查看HDFS目录下的文件和子目录 bin/hadoop fs -mkdir hdfs_path //在HDFS上创建文件夹 bin/hadoop fs -rm hdfs_path //删除HDFS上的文件 bin/hadoop fs -rmr hdfs_path //删除H…
Javaweb项目在Tomcat 部署方式的N种方式.
最近部署项目用到了很多的方式...记录一下吧 1、直接将web项目文件件拷贝到webapps 目录中 Tomcat的Webapps目录是Tomcat默认的应用目录,当服务器启动时,会加载所有这个目录下的应用。 所以很多时候我们可以用War包也好,其实原理就是启动Tomcat服务时,服务器会自动解开这个war包,并在这个目录下生成一个同名的文件夹。也…
年纪已不小
今天是2018年04月22日 22岁过了2天了,很幸运在周五的时候领导找我谈话...对的,不知不觉三个月过去了。 谢谢这三个月里自己的努力,虽然还是有很多不懂,虽然需求还是做得很慢,虽然技术还是很渣... 但庆幸的是,我能顺利转正,可以拿5k的工资,至少不用再问父母拿钱,还能拿几百块给父母。 我知道在广州生活,5K只是那么的一点点... emmmm…
最近计划
最近,老是忘记密码...然后自己灵机一动想写一个java的密码管理系统,基于ssm吧,用springBoot的话,消耗的内存实在是太大了,然后自己又有一个erbi.me的域名闲置,有哪位老板能提供阿里云的主机呢,因为域名在阿里云备案的了,想搭建一下这个密码管理系统。 转眼出来工作两个月了,感觉过得很快... 好了今天划水时间到... 计划最近有空就…
实习记录1吧
今天是2018-3-16号了.. 出来实习工作也53天了. 其中天天8点后走占了40天左右了,这个月也天天加班了吧 渐渐的从不会使用echarts,到现在天天和它打交道 昨天去yi动那边开会,已经知道一定有新需求的 但是我听到这个需求我就知道这他妈的是什么需求 简直就是从新开发一个新接口,新查询功能吧 当时让我接手这个系统的时候自己很懵逼,一位同事…