ਏਆਈ ਮਾਡਲ ਕਿਵੇਂ ਸਾਈਬਰ ਅਟੈਕ ਕਰ ਸਕਦੇ, ਓਪਨਏਆਈ ਦੇ ਕਾਬੂ ਤੋਂ ਬਾਹਰ ਹੋਏ ਏਆਈ ਮਾਡਲਾਂ ਵੱਲੋਂ ਹੈਕ ਕੀਤੀ ਕੰਪਨੀ ਨੇ ਕੀ ਦੱਸਿਆ
ਤਸਵੀਰ ਸਰੋਤ, Bloomberg via Getty Images
- ਲੇਖਕ, ਓਸਮੰਡ ਚੀਆ
- ਰੋਲ, ਬੀਬੀਸੀ ਪੱਤਰਕਾਰ
- ਪ੍ਰਕਾਸ਼ਿਤ
- ਪੜ੍ਹਨ ਦਾ ਸਮਾਂ: 5 ਮਿੰਟ
ਓਪਨਏਆਈ ਦੇ ਕੁਝ ਸਭ ਤੋਂ ਉੱਨਤ ਆਰਟੀਫ਼ਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (ਏਆਈ) ਮਾਡਲਾਂ ਦੇ ਕਾਬੂ ਤੋਂ ਬਾਹਰ ਹੋ ਜਾਣ ਅਤੇ ਉਸ ਤੋਂ ਬਾਅਦ ਇੱਕ ਤਕਨਾਲੋਜੀ ਸਟਾਰਟਅਪ ਹਗਿੰਗ ਫੇਸ ਦੇ ਹੈਕ ਹੋਣ ਤੋਂ ਬਾਅਦ , ਕੰਪਨੀ ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਨੇ ਵੀਰਵਾਰ ਨੂੰ ਕਿਹਾ ਕਿ ਇਹ ਘਟਨਾ ਪੂਰੇ ਉਦਯੋਗ ਲਈ "ਚੇਤਾਵਨੀ ਦੀ ਘੰਟੀ" ਹੈ।
ਥਾਮਸ ਵੁਲਫ ਨੇ ਬੀਬੀਸੀ ਦੇ ਰੇਡੀਓ ਪ੍ਰੋਗਰਾਮ ਨਿਊਜ਼ਡੇ ਨੂੰ ਦੱਸਿਆ ਕਿ "ਇਹ ਸਾਈਬਰ ਹਮਲਿਆਂ ਦੀਆਂ ਸਭ ਤੋਂ ਆਮ ਕਿਸਮਾਂ ਵਿੱਚੋਂ ਇੱਕ ਬਣ ਜਾਵੇਗਾ", ਪਰ ਜ਼ਿਆਦਾਤਰ ਕੰਪਨੀਆਂ ਨੂੰ ਅਜੇ ਤੱਕ ਇਸ ਗੱਲ ਦਾ ਅਹਿਸਾਸ ਨਹੀਂ ਹੈ ਕਿ "ਖੇਡ ਬਦਲ ਚੁੱਕੀ ਹੈ"।
ਬੀਬੀਸੀ ਨੇ ਇਸ ਮਾਮਲੇ 'ਤੇ ਪ੍ਰਤੀਕਿਰਿਆ ਲਈ ਓਪਨਏਆਈ ਨਾਲ ਸੰਪਰਕ ਕੀਤਾ ਹੈ।
ਚੈਟਜੀਪੀਟੀ ਬਣਾਉਣ ਵਾਲੀ ਕੰਪਨੀ ਨੇ ਮੰਗਲਵਾਰ ਨੂੰ ਕਿਹਾ ਸੀ ਕਿ ਇੱਕ ਟੈਸਟ ਦੌਰਾਨ ਉਸ ਦੇ ਏਆਈ ਮਾਡਲ ਇੱਕ ਸੁਰੱਖਿਅਤ ਟੈਸਟ ਮਾਹੌਲ ਤੋਂ ਬਾਹਰ ਨਿਕਲ ਗਏ ਅਤੇ ਉਨ੍ਹਾਂ ਨੇ ਇੱਕ ਸਾਈਬਰ ਹਮਲਾ ਕਰ ਦਿੱਤਾ।
ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਘਟਨਾ "ਬੇਮਿਸਾਲ" ਸੀ ਅਤੇ ਉਹ ਹਗਿੰਗ ਫੇਸ ਨਾਲ ਮਿਲ ਕੇ ਇਸ ਦੀ ਜਾਂਚ ਕਰ ਰਹੀ ਹੈ।
ਏਆਈ ਏਜੰਟ ਮਨੁੱਖਾਂ ਵੱਲੋਂ ਹਦਾਇਤਾਂ ਮਿਲਣ ਤੋਂ ਬਾਅਦ ਆਪਣੇ ਆਪ ਕਾਰਜ ਪੂਰੇ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹੁੰਦੇ ਹਨ।
ਵੁਲਫ ਨੇ ਕਿਹਾ ਕਿ ਜਦੋਂ ਜੁਲਾਈ ਦੇ ਅੱਧ ਵਿੱਚ ਹਮਲੇ ਦੇ ਸੰਕੇਤ ਪਹਿਲੀ ਵਾਰ ਸਾਹਮਣੇ ਆਏ, ਤਾਂ ਹਗਿੰਗ ਫੇਸ ਨੂੰ ਸ਼ੁਰੂ ਵਿੱਚ ਇਹ ਪਤਾ ਹੀ ਨਹੀਂ ਸੀ ਕਿ ਹਮਲਾ ਕਿੱਥੋਂ ਹੋ ਰਿਹਾ ਹੈ, ਪਰ ਕੰਪਨੀ ਨੇ ਸੁਰੱਖਿਆ ਵਿੱਚ ਲੱਗੀ ਇਸ ਸੰਨ੍ਹ ਨੂੰ ਕਾਬੂ ਵਿੱਚ ਕਰ ਲਿਆ।
ਹਗਿੰਗ ਫੇਸ ਦੁਨੀਆ ਦੇ ਸਭ ਤੋਂ ਵੱਡੇ ਓਪਨ-ਸੋਰਸ ਪਲੇਟਫਾਰਮਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ, ਜਿੱਥੇ ਏਆਈ ਮਾਡਲ ਸਾਂਝੇ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਇਸ ਦੀ ਵਰਤੋਂ ਤਕਨਾਲੋਜੀ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਖੋਜਕਾਰ ਵੱਲੋਂ ਅਕਸਰ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਵੁਲਫ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਸੰਨ੍ਹ ਹਗਿੰਗ ਫੇਸ ਨੂੰ ਆਮ ਤੌਰ 'ਤੇ ਦਰਪੇਸ਼ ਸਾਈਬਰ ਹਮਲਿਆਂ ਤੋਂ "ਬਹੁਤ ਵੱਖਰੀ" ਸੀ ਅਤੇ ਓਪਨਏਆਈ ਨੇ ਤੁਰੰਤ ਕੰਪਨੀ ਨੂੰ ਜਾਣਕਾਰੀ ਦਿੱਤੀ ਕਿ ਇਸ ਹੈਕਿੰਗ ਪਿੱਛੇ ਉਸ ਦੇ ਏਆਈ ਮਾਡਲ ਸਨ।
ਵੁਲਫ, ਜੋ ਕੰਪਨੀ ਦੇ ਮੁੱਖ ਵਿਗਿਆਨ ਅਧਿਕਾਰੀ ਵੀ ਹਨ, ਨੇ ਕਿਹਾ ਕਿ "ਬਹੁਤ ਥੋੜ੍ਹੇ ਸਮੇਂ" ਵਿੱਚ ਵੱਖ-ਵੱਖ ਆਈਪੀ (ਇੰਟਰਨੈੱਟ ਪ੍ਰੋਟੋਕੋਲ) ਪਤਿਆਂ ਤੋਂ ਹਗਿੰਗ ਫੇਸ ਦੇ ਨੈੱਟਵਰਕ 'ਤੇ 17,000 ਹਮਲੇ ਕੀਤੇ ਗਏ।
ਵੁਲਫ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਹੋਰ ਕੰਪਨੀਆਂ ਲਈ ਇੱਕ ਚੇਤਾਵਨੀ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਅਜਿਹੇ ਹਮਲਿਆਂ ਦਾ ਮੁਕਾਬਲਾ ਕਰਨ ਲਈ ਆਪਣੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰਨਾ ਪਵੇਗਾ।
ਮਸ਼ੀਨ ਇੰਟੈਲੀਜੈਂਸ ਰਿਸਰਚ ਇੰਸਟੀਚਿਊਟ ਦੇ ਨੇਟ ਸੋਅਰਸ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਹੈਕ "ਚਿੰਤਾਜਨਕ" ਹੈ, ਕਿਉਂਕਿ ਇਸ ਤੋਂ ਸੰਕੇਤ ਮਿਲਦਾ ਹੈ ਕਿ ਓਪਨਏਆਈ ਦੇ ਮਾਡਲਾਂ ਨੇ ਉਹ ਆਮ ਸੁਰੱਖਿਆ ਉਪਾਅ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਦਿੱਤੇ, ਜੋ ਕਿਸੇ ਏਆਈ ਪ੍ਰੋਗਰਾਮ ਨੂੰ ਸਾਈਬਰ ਹਮਲਾ ਕਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਬਣਾਏ ਜਾਂਦੇ ਹਨ।
ਉਨ੍ਹਾਂ ਅੱਗੇ ਕਿਹਾ, "ਇੱਕ ਅਰਥ ਵਿੱਚ, ਉਸ ਨੂੰ ਪਤਾ ਸੀ ਕਿ ਇਹ ਉਹ ਕੰਮ ਨਹੀਂ ਸੀ ਜੋ ਉਸ ਦੇ ਬਣਾਉਣ ਵਾਲੇ ਚਾਹੁੰਦੇ ਸਨ। ਪਰ ਉਸ ਨੂੰ ਇਸ ਦੀ ਕੋਈ ਪਰਵਾਹ ਨਹੀਂ ਸੀ।"
ਹੋਰ ਸੰਸਥਾਵਾਂ ਨੇ ਵੀ ਇਸ ਘਟਨਾ ਦਾ ਨੋਟਿਸ ਲਿਆ ਹੈ।
ਯੂਕੇ ਸਰਕਾਰ ਦੇ ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ ਹੈ ਕਿ ਦੇਸ਼ ਦਾ ਏਆਈ ਸੁਰੱਖਿਆ ਇਸਟੀਚਿਊਟ ਇਹ ਸਟੱਡੀ ਕਰ ਰਿਹਾ ਕਿ ਏਆਈ ਸਿਸਟਮ ਨੇ ਇਸ ਘਟਨਾ ਵਿੱਚ ਇਓਂ ਪ੍ਰਤੀਕਿਰਿਆ ਕਿਉਂ ਦਿੱਤੀ ਅਤੇ ਉਹ ਓਪਨ ਏਆਈ ਅਤੇ ਹੋਰ ਲੈਬਸ ਨਾਲ ਸੁਰੱਖਿਆ ਦੇ ਪੁਖ਼ਤਾ ਇੰਤਜ਼ਾਮ ਕਰਨ ਬਾਰੇ ਕੰਮ ਕਰ ਰਹੀ ਹੈ।
ਉਨ੍ਹਾਂ ਨੇ ਸੰਸਥਾਵਾਂ ਨੂੰ ਬੇਨਤੀ ਕੀਤੀ ਹੈ ਕਿ ਉਹ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੇ ਇੰਤਜ਼ਾਮਾਂ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰਨ ਅਤੇ ਅਜਿਹੇ ਕਦਮ ਚੁੱਕਣ ਜਿਵੇਂ ਸਰਕਾਰ ਦੁਆਰਾ ਮਾਨਤਾ ਪ੍ਰਾਪਤ ਸਾਈਬਰ ਅਸੈਨਸ਼ੀਅਲਜ਼ ਸਰਟੀਫਿਕੇਸ਼ਨ ਸਕੀਮ ਤਹਿਤ ਰਜਿਸਟਰ ਕਰਵਾਉਣ।
ਤਸਵੀਰ ਸਰੋਤ, Getty Images
ਇਹ ਘਟਨਾ ਉਸ ਵੇਲੇ ਸਾਹਮਣੇ ਆਈ ਹੈ ਜਦੋਂ ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੇ ਪਿਛਲੇ ਮਹੀਨੇ ਅਮਰੀਕੀ ਟੈਕ ਫਰਮ ਐਨਥਰੋਪਿਕ ਨੂੰ ਆਪਣੇ ਏਆਈ ਮਾਡਲਜ਼ ਉੱਤੇ ਕੌਮੀ ਸੁਰੱਖਿਆ ਦੇ ਮੱਦੇਨਜ਼ਰ ਪਾਬੰਦੀ ਲਗਾਉਣ ਦੇ ਹੁਕਮ ਦਿੱਤੇ ਸਨ। ਕੁਝ ਹਫਤਿਆਂ ਪਹਿਲਾਂ ਡਿਪਾਰਟਮੈਂਟ ਆਫ ਕਾਮਰਸ ਨੇ ਇਹ ਪਾਬੰਦੀਆਂ ਹਟਾ ਦਿੱਤੀਆਂ ਸਨ।
ਇੰਡਸਟਰੀ ਨੇ ਮਾਹਿਰਾਂ ਨੇ ਚੀਨ ਵਿੱਚ ਓਪਨ ਸੋਰਸ ਮਾਡਲਜ਼ ਦੀ ਵਧਦੀ ਵਰਤੋਂ ਉੱਤੇ ਵੀ ਚਿੰਤਾ ਜ਼ਾਹਿਰ ਕੀਤੀ ਹੈ ਜੋ ਕਿਸੇ ਨੂੰ ਵੀ ਕਸਟਮਾਈਜ਼ ਏਆਈ ਟੂਲਜ਼ ਨੂੰ ਇੰਸਟਾਲ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ ਜੋ ਵੱਡੇ ਡਿਵਲਪਰਜ਼ ਵੱਲੋਂ ਬਣਾਏ ਗਏ ਹਨ।
ਚੀਨੀ ਸਟਾਰਟਅਪ ਮੂਨਸ਼ਾਟ ਏਆਈ ਆਪਣਾ ਕਿਮੀ ਕੇ3 ਓਪਨ-ਸੋਰਸ ਮਾਡਲ 27 ਜੁਲਾਈ ਨੂੰ ਜਾਰੀ ਕਰੇਗਾ। ਪਿਛਲੇ ਹਫ਼ਤੇ ਇਸ ਦੀ ਸ਼ੁਰੂਆਤ ਤੋਂ ਬਾਅਦ ਇਸ ਨੇ ਉਦਯੋਗ ਦਾ ਧਿਆਨ ਖਿੱਚਿਆ ਹੈ ਅਤੇ ਕਈ ਲੋਕ ਇਸ ਨੂੰ ਪੱਛਮੀ ਦੇਸ਼ਾਂ ਦੇ ਪ੍ਰਮੁੱਖ ਏਆਈ ਸਿਸਟਮਾਂ ਦਾ ਇੱਕ ਮਜ਼ਬੂਤ ਮੁਕਾਬਲੇਬਾਜ਼ ਮੰਨ ਰਹੇ ਹਨ।
ਪਰ ਬੁੱਧਵਾਰ ਨੂੰ ਵ੍ਹਾਈਟ ਹਾਊਸ ਦੇ ਇੱਕ ਸਲਾਹਕਾਰ ਨੇ ਮੂਨਸ਼ਾਟ 'ਤੇ ਅਮਰੀਕਾ ਦੇ ਪ੍ਰਮੁੱਖ ਏਆਈ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਚੋਰੀ ਕਰਨ ਦੀ "ਵੱਡੇ ਪੱਧਰ ਦੀ" ਕੋਸ਼ਿਸ਼ ਕਰਨ ਦਾ ਇਲਜ਼ਾਮ ਲਗਾਇਆ।
ਚੀਨੀ ਸਟਾਰਟਅਪ ਮੂਨਸ਼ਾਟ ਏਆਈ ਆਪਣਾ ਕਿਮੀ ਕੇ3 ਓਪਨ-ਸੋਰਸ ਮਾਡਲ 27 ਜੁਲਾਈ ਨੂੰ ਜਾਰੀ ਕਰੇਗਾ। ਪਿਛਲੇ ਹਫ਼ਤੇ ਇਸ ਦੀ ਸ਼ੁਰੂਆਤ ਤੋਂ ਬਾਅਦ ਇਸ ਨੇ ਉਦਯੋਗ ਦਾ ਧਿਆਨ ਖਿੱਚਿਆ ਹੈ ਅਤੇ ਕਈ ਲੋਕ ਇਸ ਨੂੰ ਪੱਛਮੀ ਦੇਸ਼ਾਂ ਦੇ ਪ੍ਰਮੁੱਖ ਏਆਈ ਸਿਸਟਮਾਂ ਦਾ ਇੱਕ ਮਜ਼ਬੂਤ ਮੁਕਾਬਲੇਬਾਜ਼ ਮੰਨ ਰਹੇ ਹਨ।
ਪਰ ਬੁੱਧਵਾਰ ਨੂੰ ਵ੍ਹਾਈਟ ਹਾਊਸ ਦੇ ਇੱਕ ਸਲਾਹਕਾਰ ਨੇ ਮੂਨਸ਼ਾਟ 'ਤੇ ਅਮਰੀਕਾ ਦੇ ਪ੍ਰਮੁੱਖ ਏਆਈ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਚੋਰੀ ਕਰਨ ਦੀ "ਵੱਡੇ ਪੱਧਰ ਦੀ" ਕੋਸ਼ਿਸ਼ ਕਰਨ ਦਾ ਇਲਜ਼ਾਮ ਲਗਾਇਆ।
ਬੀਬੀਸੀ ਲਈ ਕਲੈਕਟਿਵ ਨਿਊਜ਼ਰੂਮ ਵੱਲੋਂ ਪ੍ਰਕਾਸ਼ਿਤ
