browser.xul にて Firefox 2 か Firefox 3 かを手っ取り早く調べるには、例えば BookmarksUtils か PlacesUtils が存在することを調べる。

if ("PlacesUtils" in window)
  alert("Maybe Firefox 3.");

if ("BookmarksUtils" in window)
  alert("Maybe Firefox 2.");

より厳密に調べるなら、 nsIXULAppInfo を使う。これなら browser.xul 以外の場所でも可能。

var appInfo = Cc["@mozilla.org/xre/app-info;1"].getService(Ci.nsIXULAppInfo);
if (appInfo.version.substr(0, 1) == "3")
  alert("Firefox 3");