Hola. Los bytes recibidos los puedes interpretar con la tabla ASCII. Si usas la función Serial.println en Arduino, al final de cada mensaje se agregarán los bytes 13 y 10 que son los que causan el salto de línea.
La información enviada a través de Serial de Arduino a Java se envía byte a byte. En Java puedes transformar los bytes a caracteres y luego hacer la conversión a entero o el tipo de dato que sea necesario.