static LS wordTok2_uncached(String s) { new ArrayList tok; int l = s == null ? 0 : s.length(); int i = 0, n = 0; while (i < l) { int j = i; // scan for whitespace while (j < l) { char c = s.charAt(j); break if Character.isJavaIdentifierPart(c); ++j; if (j >= l) break; } tok.add(javaTok_substringN(s, i, j)); ++n; i = j; if (i >= l) break; char c = s.charAt(i); char d = i+1 >= l ? '\0' : s.charAt(i+1); // scan for non-whitespace if (Character.isJavaIdentifierStart(c)) { do ++j; while (j < l && (Character.isJavaIdentifierPart(s.charAt(j)) || s.charAt(j) == '\'')); // for stuff like "don't" } else if (Character.isDigit(c)) { do ++j; while (j < l && Character.isDigit(s.charAt(j))); if (j < l && s.charAt(j) == 'L') ++j; // Long constants like 1L } else ++j; tok.add(javaTok_substringC(s, i, j)); ++n; i = j; } if ((tok.size() % 2) == 0) tok.add(""); ret tok; }