GoogleAppsのGoogleグループですが、任意のグループの "権限"-"基本的な権限" で "[ドメイン名]外の新しいユーザーを許可する" にチェックを入れ保存しようとすると、「サーバーとの通信中にエラー(エラー コード: 773)が発生しました。」というエラーになります。
調べたところ、Group for Business の全般的な設定が必要ということがわかりました。
"管理コンソール"(admin.google.com) → "アプリ" → "Google Apps" → "Groups for Business" → "共有設定" → "共有オプション"項の "グループ オーナーはこのドメイン外のメンバーを許可できます ドメイン管理者は、いつでもこのドメイン外のメンバーを追加できます" にチェックを入れます。
これで保存を行うと、"[ドメイン名]外の新しいユーザーを許可する" の設定が効くようになりました。