Pig SUBTRACT 函数

  • SUBTRACT 函数

    Pig-Latin SUBTRACT()函数用于减去两个bag。它以两个bag作为输入,并返回一个bag,其中包含不在第二个bag中的第一个bag的元组。
    句法
    下面给出的是SUBTRACT() 函数的语法。
    
    grunt> SUBTRACT(expression, expression)
    
    例子
    假设我们在HDFS目录/pig_data/中有两个文件,分别是emp_sales.txt和emp_bonus.txt,如下所示。该emp_sales.txt包含销售部门的员工的细节和emp_bonus.txt包含员工详细谁得到奖金。
    emp_sales.txt
    
    1,Robin,22,25000,sales 
    2,BOB,23,30000,sales 
    3,Maya,23,25000,sales 
    4,Sara,25,40000,sales 
    5,David,23,45000,sales 
    6,Maggy,22,35000,sales
    
    emp_bonus.txt
    
    1,Robin,22,25000,sales 
    2,Jaya,23,20000,admin 
    3,Maya,23,25000,sales 
    4,Alia,25,50000,admin 
    5,David,23,45000,sales 
    6,Omar,30,30000,admin
    
    我们已经将这些文件加载​​到Pig中,它们的关系名称分别为emp_sales和emp_bonus。
    
    grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',')
       as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
       
    grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
       as (sno:int, name:chararray, age:int, salary:int, dept:chararray);   
    
    现在,让我们使用COGROUP运算符使用键sno将emp_sales和emp_bonus关系的记录/元组分组,如下所示。
    
    grunt> cogroup_data = COGROUP emp_sales by sno, emp_bonus by sno;
    
    如下所示,使用DUMP运算符验证关系cogroup_data。
    
    grunt> Dump cogroup_data; 
    
    (1,{(1,Robin,22,25000,sales)},{(1,Robin,22,25000,sales)}) 
    (2,{(2,BOB,23,30000,sales)},{(2,Jaya,23,30000,admin)}) 
    (3,{(3,Maya,23,25000,sales)},{(3,Maya,23,25000,sales)}) 
    (4,{(4,Sara,25,40000,sales)},{(4,Alia,25,50000,admin)}) 
    (5,{(5,David,23,45000,sales)},{(5,David,23,45000,sales)}) 
    (6,{(6,Maggy,22,35000,sales)},{(6,Omar,30,30000,admin)})
    
  • 减去另一种关系

    现在让我们从emp_sales关系中减去emp_bonus关系的元组。结果关系包含emp_bonus中不存在的emp_sales元组。
    
    grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_sales, emp_bonus);
    
    验证
    如下所示,使用DUMP运算符验证关系sub_data。该emp_sales关系认为,不存在关系中的元组emp_bonus。
    
    grunt> Dump sub_data;
       
    ({})
    ({(2,BOB,23,30000,sales)})
    ({})
    ({(4,Sara,25,40000,sales)})
    ({})
    ({(6,Maggy,22,35000,sales)})
    
    以同样的方式,让我们减去emp_sales从关系emp_bonus关系如下图所示。
    
    grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_bonus, emp_sales);
    
    如下所示,使用Dump运算符验证sub_data关系的内容。
    
    grunt> Dump sub_data;
    
    ({}) 
    ({(2,Jaya,23,20000,admin)})
    ({})
    ({(4,Alia,25,50000,admin)})
    ({})
    ({(6,Omar,30,30000,admin)})