Dubbo使用Hessian2序列化时针对Byte类型出现java.lang.ClassCastException

翎野君

发布于 2023-05-12 20:21:57

3050

发布于 2023-05-12 20:21:57

文章被收录于专栏：翎野君翎野君

背景

前不久翎野君帮同事看一个问题，比较有启发性，特记录一下。一个dubbo rpc方法中，从请求对象中取出Set<Byte>变量进行循环操作，然后出现下面的问题。

java.lang.ClassCastException: java.lang.Integer cannot be cast to java.lang.Byte

乍一看还有些费解，好好的代码，看上去那么的乖巧可爱，怎么会突然冒出来这个问题，带着怀疑的态度自己本地编写了Test方法试验了一下，发现也没有问题。然后就把目光放在dubbo传输框架上面了，查阅了一些资料，发现dubbo默认的hessian2序列化协议不支持Byte类型。

问题复现

package com.lingyejun.test;

import com.alibaba.com.caucho.hessian.io.Hessian2Input;
import com.alibaba.com.caucho.hessian.io.Hessian2Output;
import org.junit.Test;

import java.io.ByteArrayInputStream;
import java.io.ByteArrayOutputStream;
import java.io.IOException;
import java.util.HashMap;
import java.util.HashSet;
import java.util.Map;
import java.util.Set;

public class HessianTest {

    @Test
    public void test() throws IOException {
        Byte basicByte = 88;
        byte[] basicByteArray = serialize(basicByte);
        // 序列化后得到的是Integer类型的变量
        Object obj = deserialize(basicByteArray);
        // 会报类型转换错误
        Byte desB = (Byte) obj;

        Set<Byte> byteSet = new HashSet<>();
        byteSet.add((byte) 11);
        byteSet.add((byte) 6);
        byte[] byteSetArray = serialize(byteSet);
        Set<Byte> dsByteSet = (Set<Byte>) deserialize(byteSetArray);
        // 会报类型转换错误
        for (Byte aByte : dsByteSet) {
            System.out.println(aByte);
        }

        Map<Byte, Byte> byteMap = new HashMap<>();
        byteMap.put((byte) 2, (byte) 3);
        byte[] byteMapArray = serialize(byteMap);
        Map<Byte, Byte> dsByteMap = (Map<Byte, Byte>) deserialize(byteMapArray);
        // 会报类型转换错误
        Byte value = dsByteMap.get(2);
        System.out.println(value);

    }

    public static byte[] serialize(Object obj) throws IOException {
        ByteArrayOutputStream os = new ByteArrayOutputStream();
        Hessian2Output ho = new Hessian2Output(os);
        byte[] cc = null;
        try {
            if (obj == null) throw new NullPointerException();
            ho.writeObject(obj);
            ho.flushBuffer();
            cc = os.toByteArray();
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            ho.close();
        }
        return cc;

    }

    public static Object deserialize(byte[] by) {
        try {
            if (by == null) throw new NullPointerException();
            ByteArrayInputStream is = new ByteArrayInputStream(by);
            Hessian2Input hi = new Hessian2Input(is);
            return hi.readObject();
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;

    }
}