Macへの接続時
ゲストユーザーとして接続しようとしている場合、その認証方法が利用できないためにこのエラーが発生することがあります。
接続先のMacの「システム設定」>「一般」にある「画面共有」または「リモート管理」で、「誰でも画面制御の許可を要求できる」オプションが有効になっていることを確認してください。

PCへの接続時
このエラーは、Screensの接続設定で選択した認証方法が、リモートコンピュータのVNCサーバーでサポートされていない場合に発生します。
この問題を解決するには、リモートVNCサーバーでサポートされている認証方法を確認し、Screensでその認証方法のいずれかを選択してください。例えば、サーバーによってはVNCパスワードしか受け付けないものもありますが、Raspberry PiのようにRSA-AESもサポートしているサーバーもあります。
選択した認証方式がサポートされているオプションのいずれにも一致しない場合、Screensは接続できません。サポートされている認証方式を使用するように接続設定を更新すれば、問題は解決するはずです。