バージョン情報をマニフェストファイルの<manifest>タグに記述します。
デフォルトは以下のようになっています。

android:versionCode="1"
android:versionName="1.0"

versionCodeはバージョンを示す整数値です。
バージョンアップしたときは、この数値をインクリメントする必要があります。

versionNameはバージョンを示す文字列です。
任意で設定できますが、「1.0.0」の形式で記述するのが一般的なようです。

・Major（メジャーバージョン、根本的なアーキテクチャの変更）
・Minor（マイナーバージョン、アーキテクチャを保ったままの機能追加やバグフィックス）
・Revision（リビジョン、バグフィックスのみ）
以上をドットで繋いだ文字列になります。

コードで取り出す場合は以下のようにします。

PackageInfo packageInfo = null;
try {
    packageInfo = getPackageManager().getPackageInfo("[パッケージ名]", PackageManager.GET_META_DATA);
} catch (NameNotFoundException e) {
    e.printStackTrace();
}

//packageInfo.versionCode //バージョンコード
//packageInfo.versionName //バージョン